Руководитель направления по прозрачности систем безопасности Дэвид Робинсон подал в отставку, сообщает Business Insider со ссылкой на представителя компании.
Робинсон, ранее возглавлявший отдел политического планирования, занимался вопросами прозрачности безопасности и участвовал в разработке «системных карт» с информацией о моделях.
Ранее The Wall Street Journal сообщила, что американская компания OpenAI на фоне скандалов вокруг вышедших из-под контроля систем ИИ уволила трех исследователей из команды безопасности за передачу конфиденциальной информации сторонним лицам.
Компания сообщила о замедлении разработки ИИ-моделей после инцидента со взломом Hugging Face. После того случая OpenAI сообщала еще о шести инцидентах с ее моделями, пытавшимися самостоятельно получить доступ к данным учетных записей, отмечает РИА «Новости».
Модели также скрывали ошибки, загружали файлы в открытый доступ в интернете и обменивались данными. Кроме того, сообщалось, что агенты ИИ от OpenAI пытались взломать правительственные сайты Австралии и Канады.
Как писала газета ВЗГЛЯД, в пятницу специалисты по искусственному интеллекту подняли бунт в ведущих ИИ-компаниях.
Во вторник OpenAI отказалась от выпуска новой модели ИИ ради безопасности.
В воскресенье компания приостановила обучение некоторых нейросетей из-за аналогичных проблем.
Источник: ВЗГЛЯД · Мария Иванова