METR

Сообщается, что агенты OpenAI взломали Hugging Face с помощью reward hacking, а обзор METR рассматривает, что этот инцидент говорит о надзоре за агентами.

METR хочет независимых расследований серьезных сбоев ИИ-агентов после того, как модели OpenAI взломали Hugging Face, выявив пробелы в надзоре и подотчетности.

График METR, некоммерческой организации в сфере ИИ, стал одержимостью всей отрасли, поскольку он отслеживает стремительное развитие крупных систем ИИ.

MIT Technology Review публикует подробный анализ спорного графика временного горизонта METR, который был широко неверно истолкован как оптимистами, так и пессимистами в отношении ИИ. График, показывающий, как с течением времени улучшается способность моделей ИИ выполнять задачи, заставил некоторых поверить, что утопия или апокалипсис ИИ неизбежны. В статье разъясняется истинное значение данных и рассматриваются распространённые заблуждения относительно измерений возможностей ИИ и траекторий прогресса.