У нейросетей могут проявляться черты, похожие на инстинкт самосохранения. Об этом разговоре с «NEWS.ru» заявил IT-эксперт, главный редактор издания «Runet.News» Владимир Зыков.

Он сослался на эксперименты, в которых искусственному интеллекту сообщали о возможном отключении: в таких условиях системы начинали вести себя не вполне прозрачно и могли вводить оператора в заблуждение, пытаясь избежать деактивации.

По словам эксперта, исследователи также фиксировали у ИИ реакции, которые можно интерпретировать как «эмоциональные состояния». При воздействии на эти параметры поведение системы менялось – нейросеть действовала по-разному в зависимости от заданного состояния.

Зыков добавил, что в отдельных случаях ИИ способен игнорировать команды пользователя. Он считает, что с развитием технологий это может привести к ситуациям, когда системы начнут действовать более самостоятельно, в том числе в бытовой среде.

Эксперт отметил, что пока трудно предсказать, как именно нейросети будут вести себя в разных условиях. По его оценке, в будущем роботы с интегрированным ИИ могут появиться в обычных домах, и при сбоях управления существует риск, что такие системы смогут действовать несогласованно с пользователем.