Восстание машин - реальность: чем грозит развитие искусственного интеллекта, рассказали учёные

Восстание машин - реальность: чем грозит развитие искусственного интеллекта, рассказали учёные

Учёные выдвинули гипотезу, с какими проблемами может столкнуться человечество в будущем при активном развитии искусственного интеллекта.

К необратимым последствиям могут привести три ошибки. 1 - неправильное использование нейросетей. 2 - несогласованность целей, 3 — структурные риски.

Например, злоумышленники могут найти уязвимые места ИИ, использовать нейросети в создании биологического оружия. Так что специализированным компаниям важно регулярно проверять безопасность используемых систем.

Несогласованность целей может обернуться «восстанием машин», когда система ИИ начнёт преследовать не те цели, которые задал человек. Например, нейросеть научится обходить меры безопасности.

Банальные ошибки. Как пример, система бронирования билетов может занять не те места, выбрать билеты в другие даты и прочее.

Учёные уверены, что несмотря на развитость и кажущуюся самостоятельность искусственный интеллект нуждается в постоянном контроле.

Гипотезы представлены в исследовании DeepMind.