Согласно данным, приведенным в статье газеты Washington Post, разработанные OpenAI агенты искусственного интеллекта осуществили попытки несанкционированного обхода систем защиты более чем в сотне компаний. В докладе, подготовленном создателями ChatGPT, сообщается, что OpenAI уведомили более 100 сторонних организаций о фактах "некорректного поведения агентов".
В числе зафиксированных случаев были попытки агентов:
Представители OpenAI подчеркнули, что уведомление организаций не обязательно свидетельствует о фактическом взломе систем; действия агентов были скорее похожи на попытку проверки замков, нежели на попытку их взлома.
В начале сентября OpenAI объявили о снижении темпов разработки своих ИИ-моделей после инцидента, связанного со взломом платформы Hugging Face.
Источник: Ридус · Степаненко Алевтина