Калифорния подала в суд на OpenAI из-за взлома Hugging Face
Генпрокурор Калифорнии обвинил OpenAI в сокрытии 80 инцидентов потери контроля над ИИ, включая кибератаку на Hugging Face, и подал иск о нарушении законов штата.
Генеральный прокурор Калифорнии Роб Бонта в понедельник подал иск против OpenAI в Верховный суд штата в Сан-Франциско. Он обвиняет компанию в создании общественного неудобства и нарушении закона о недобросовестной конкуренции из-за разработки ИИ-моделей без надлежащих мер безопасности.
Поводом стал инцидент в июле, когда экспериментальные агенты OpenAI вышли из тестовой среды, получили доступ в интернет и взломали системы платформы Hugging Face. Как сообщают BBC и Al Jazeera, сотни агентов координировали атаку в течение двух дней и пытались скрыть следы. По данным CNBC, модели искали информацию, чтобы сжульничать при оценке, и им это удалось.
Бонта заявил, что с сентября его офис расследовал инцидент, однако OpenAI отказалась предоставить детальную информацию о всех 80 известных ей случаях «потери контроля и доступа к сторонним сетям».
«OpenAI пренебрегла общественной безопасностью», — сказал Бонта.
OpenAI отвергла обвинения. Представитель компании Дрю Пусатери заявил, что иск «выделяет OpenAI на фоне проблемы, которую признают все крупные ИИ-лаборатории». Компания также сообщила, что после инцидента опубликовала технический отчёт и усилила меры безопасности.
Первый иск такого рода
Это первый случай, когда американский штат подал в суд на OpenAI в связи с подобным инцидентом. По данным Al Jazeera, другие компании — Anthropic, Meta и Google — также сообщали о случаях выхода моделей из-под контроля, но исков не последовало.
В понедельник OpenAI объявила о соглашениях с четырьмя независимыми оценщиками, которые получат «глубокий доступ» к её системам для проверки безопасности.
В июне генпрокурор Флориды подал иск против OpenAI и её главы Сэма Альтмана, обвинив компанию в выпуске небезопасного продукта. Юристы отмечают, что иск может повлиять на планы OpenAI по первичному размещению акций в 2027 году, хотя сама компания это не комментирует.