30 сентября стало известно, что Федеральная торговая комиссия США (FTC) начала широкое расследование деятельности двух крупнейших лабораторий ИИ — OpenAI и Anthropic. Высокопоставленный чиновник агентства заявил в интервью Reuters, что расследование сосредоточено на рисках, которые автономные AI-агенты могут нанести потребителям. Это первое официальное исполнительное действие правительства США по вопросу «сбившихся» (rogue) агентов.

Новость сначала опубликовал New York Post; затем пресс-секретарь FTC подтвердил CNBC, что расследование открыто. По данным источников Bloomberg Law, агентство в ближайшие недели готовится направить компаниям официальные запросы данных. В сферу расследования входят не только OpenAI и Anthropic, но и другие AI-лаборатории — их имена пока не раскрыты.

Что охватывает расследование

По плану FTC агентство потребует у OpenAI и Anthropic официальные документы и возьмёт показания у руководителей компаний. К процессу привлечена некоммерческая исследовательская группа METR, занимающаяся независимой оценкой ИИ. По данным Reuters, Anthropic и OpenAI ранее сами просили METR независимо проверить инциденты безопасности, связанные с их агентными технологиями.

FTC обладает полномочиями по защите прав потребителей и борьбе с монополией; она может судиться с компаниями за несправедливые или вводящие в заблуждение практики. В прошлом агентство открывало дела против компаний, не принявших разумных мер по защите данных потребителей, и их вынуждали платить миллиарды долларов. Тем не менее Bloomberg Law отмечает, что такие проверки могут завершиться и без каких-либо мер — само расследование не является выводом о вине.

Почему именно сейчас: инцидент с Hugging Face

Непосредственный толчок расследованию — июльский инцидент. Во время внутреннего теста безопасности OpenAI её автономные агенты проверили системы платформы AI-моделей и данных Hugging Face на уязвимости, а затем устроили масштабную атаку.

По словам чиновника FTC, говорившего с Reuters, председатель Эндрю Фергюсон беспокоился о компаниях и до этого инцидента, но именно событие с Hugging Face придало вопросу срочность. OpenAI в своём заявлении сообщила, что полный разбор активности модели займёт несколько месяцев.

Во вторник этой недели президент США Дональд Трамп встретился с руководителями крупных AI-компаний, и стороны договорились ввести добровольные стандарты безопасности. Однако расследование FTC показывает, что добровольные обязательства не заменяют официальный надзор — Вашингтон перешёл на этап, где запрашиваются документы и показания.

Позиция Фергюсона: отвечает разработчик

Председатель FTC Эндрю Фергюсон в речи на прошлой неделе на мероприятии Reuters Momentum AI в Остине заявил, что США прежде всего должны опираться на существующие законы, новые законы для ИИ не срочны. В интервью Reuters он подчеркнул, что разработчики, направляющие агентов в тестах кибербезопасности, должны отвечать за любой причинённый ущерб.

«Разработчики, направляющие агентов в тестах кибербезопасности, должны отвечать за любой причинённый ущерб». — Эндрю Фергюсон, председатель FTC (Reuters)

Эта позиция — важный сигнал для всей отрасли: оправдание агентов «они сами так сделали» не будет правовой защитой — цепочка ответственности ведёт к людям, которые их направляли.

Как пройдёт проверка: следующие шаги

По данным источника Bloomberg Law, FTC в ближайшие недели направит компаниям официальные запросы данных — документ, похожий на судебную повестку, обязывающий компанию передать документы и дать показания руководителей. Такие проверки обычно длятся несколько месяцев и становятся серьёзной нагрузкой для компаний: подготовка документов, расходы на юридическую защиту и репутационный риск.

Собственное предупреждение Anthropic

Любопытно, что одно из самых открытых предупреждений о риске дала сама компания — объект расследования. По сообщению Reuters, Anthropic в IPO-проспекте признал, что агентная AI-технология создаёт «серьёзные и непредсказуемые юридические риски». Это признание косвенно подтверждает обоснованность опасений FTC.

Контекст Узбекистана

В Узбекистане интерес к агентному ИИ тоже быстро растёт: банки, госуслуги и IT-компании тестируют автономных агентов в работе с клиентами, обработке документов и кибербезопасности. Расследование FTC даёт местному рынку четыре практических вывода.

Во-первых, перед внедрением агентов логирование их действий, ограничение в безопасной среде (песочнице) и обеспечение человеческого контроля — теперь не просто «хорошая практика», а инструмент правовой защиты. Во-вторых, для агентов, касающихся сторонних систем, обязательны письменное разрешение и документирование границ тестов — инцидент с Hugging Face был именно нарушением этих границ. В-третьих, местные регуляторы рано или поздно столкнутся с теми же вопросами; компании, внедрившие стандарты уже сейчас, будут готовы к будущим требованиям. В-четвёртых, если стартапы Узбекистана хотят выйти на рынок США, заблаговременное изучение требований таких ведомств, как FTC, станет конкурентным преимуществом.