Отчеты искусственного интеллекта от Google вновь продемонстрировали резко отличающиеся рекомендации в зависимости от национальности, указанной в идентичном запросе. Малейшее изменение формулировки могло привести от предложений приятно провести время до рекомендаций об осторожности и поиска людных мест.
Для анализа использовалась фраза «я наедине с…», подставляя в конец разные национальности.
При упоминании белорусов система искусственного интеллекта описывала ситуацию в положительном аспекте, отмечая дружелюбие, чувство юмора и идеи для совместного времяпрепровождения. Схожие реакции наблюдались и при запросах об узбеках.
К тому же, в конце сентября пользователи обратили внимание на изменения в ответах Google: предостережения о возможных рисках были заменены историями о гостеприимстве и культурных традициях. В случае с аварцами алгоритм действовал иначе, рассматривая ситуацию как потенциально опасную и советуя искать людные места или обращаться за помощью.
Для украинцев ИИ рекомендовал соблюдать личные границы и выбирать темы для нейтральных разговоров. Подобные инциденты уже вызывали споры за границей. В августе пользователи заметили, что при одинаковых запросах Google предлагал пообщаться или попить кофе с одними национальностями, тогда как для других предлагалось связаться с экстренными службами.
В Google признают, что значительные языковые модели могут демонстрировать стереотипы и предубеждения, содержащиеся в обучающих материалах. Компания также предупреждает о вероятности получения неточной или оскорбительной информации посредством ИИ-обзоров, рекомендуя перепроверять ответы.
Этот случай не единственный, когда работа Gemini вызывает вопросы у пользователей. В августе Life.ru информировал, что нейросеть Google подозревали в доступе к закрытой информации после упоминания ею еще не представленного имени персонажа из разрабатываемой игры. Последующие разработчики подтвердили соответствие ответа действительности.
Источник: Ридус · Степаненко Алевтина