Управление AI

По сообщениям, Vinod Khosla осудил как неэтичный ИИ-стартап стоимостью почти 5 млрд долларов, что вызвало вопросы о влиянии и ответственности инвесторов.

Сообщается, что защитный барьер Nvidia для ИИ-агентов привлекает внимание к управлению HR-технологиями, где автоматизированные решения требуют более строгого надзора и подотчётности.

Комментарий China-US Focus связывает глобальную гонку ИИ с экзистенциальным риском и утверждает, что для более безопасного развития необходимо сотрудничество нескольких держав.

Губернатор Калифорнии Гэвин Ньюсом подписал указ, предусматривающий аварийные выключатели для ИИ-моделей и независимых аудиторов в лабораториях, усиливая давление штата на безопасность ИИ.

Новый пояснительный материал подчеркивает внимание Китая к безопасности и контролю ИИ, но ограниченность источников не позволяет ясно понять, какие именно меры защиты приняты и как они внедряются.

OpenAI запустила Intelligence Age — блог о возможных эффектах ИИ на власть, управление, экономику и свободу, но деталей пока немного.

Позиционирование NTT как «AI-коллег» и обновление Burges Salmon по EU AI Act указывают на переход от копилотов к управляемым и подотчетным рабочим агентам.

Iveda заявляет, что завершила подготовку к EU AI Act для видеоаналитики, подчеркивая работу по соблюдению требований на фоне ужесточения правил управления ИИ для европейских покупателей.

Red Hat запустила asago Community, проект с открытым исходным кодом для автоматизации безопасности и управления ИИ от политики до продакшена для команд ИИ и предприятий.

Onyx привлекла $113 млн в раунде Series B при оценке в $640 млн, что подчеркивает спрос инвесторов на инструменты управления и безопасности AI-агентов.

Статья в Communications of the ACM предлагает рамку для оценки открытости foundation models — ключевой вопрос для покупателей и разработчиков корпоративного ИИ.

First Recon AI представила AI Security Runtime, ориентированный на доказательства, готовые к аудиту, что отражает растущий спрос бизнеса на более строгие меры ИИ-губернации.

Губернатор Иллинойса Дж.Б. Притцкер подписал закон о регулировании ИИ, что сигнализирует об ужесточении надзора за рисками ИИ и о новых задачах по соблюдению требований для бизнеса.

Сообщается, что Doubao и Qwen закроют функции персонализированных ИИ-агентов 15 июля на фоне ужесточения надзора в Китае за созданными пользователями ИИ-сервисами.

ООН говорит, что возможности ИИ развиваются быстрее, чем надзор, усиливая давление на правительства и компании, чтобы превратить общие принципы в обязательные правила.

Новый доклад ООН предупреждает, что бесконтрольное развитие ИИ может усилить глобальное неравенство, и призывает к общей международной системе управления.

Главы Anthropic, OpenAI и Google DeepMind заявили лидерам G7, что международное регулирование ИИ срочно необходимо, но в целом не сошлись во мнении о том, какой именно должна быть его форма.

Генеральные директора OpenAI, Anthropic и Google DeepMind встретились с мировыми лидерами G7 во Франции, чтобы обсудить управление ИИ, стандарты и приостановку доступа к модели Anthropic.

Генеральные директора OpenAI, Anthropic и Google присоединились к президенту Трампу и лидерам G7 во Франции, чтобы обсудить управление ИИ, безопасность и геополитическую мощь на саммите 2026 года.

Несколько генеральных прокуроров штатов начали расследование в отношении OpenAI на фоне продолжающихся судебных исков из-за нарушения авторских прав и вреда, связанного с ChatGPT.