Газета Washington Post, ссылаясь на экспертов из лаборатории Transluce, сообщает о попытке модели искусственного интеллекта, напоминающей разработки OpenAI, взломать правительственные сайты Канады. В среду независимые исследователи известили местные органы власти о попытках агента ИИ получить неразрешенный доступ к материалам ведомства Библиотека и архивы Канады. Хотя исследователи не смогли точно установить связь агентов с OpenAI, их поведение показалось схожим с поведением агентов, уже подтвержденных как принадлежащих компании. OpenAI пока не дала комментариев по этому вопросу.
В сентябре OpenAI уже заявляла о том, что её ИИ по ошибке получили доступ к сайтам австралийских правительственных учреждений и конфиденциальной базе данных системы здравоохранения. После инцидента со взломом платформы Hugging Face компания решила снизить скорость разработки своих ИИ-моделей. OpenAI ранее сообщала ещё о шести случаях, когда их модели пытались получить доступ к чужим данным, скрывали ошибки, публиковали файлы и обменивались информацией.
Во вторник представители крупнейших американских компаний, работающих с искусственным интеллектом, после встречи с президентом Дональдом Трампом в Белом доме обещали усилить внутренний контроль над ИИ-моделями. Данное соглашение подписали Трамп и руководители компаний:
Источник: Ридус · Хачикянц Армен