Сэм Альтман в ООН предупредил об угрозе выхода ИИ из-под контроля

Глава OpenAI Сэм Альтман выступил на заседании Совбеза ООН. Он заявил, что технологии ИИ развиваются быстрее, чем человечество успевает их контролировать.

Фото: Freepik.com Наука

Он также заявил, что на данный момент институты власти попросту не справляются с темпами прогресса. Альтман считает, что системы становятся слишком мощными и автономными. Самая большая опасность, по его словам, заключается в самообучении нейросетей.

«Системы ИИ становятся более мощными и автономными, они могут развиваться быстрее, чем наши институты. Риск заключается в том, что все происходит так быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости», — сказал он.

Автоматизация разработки кода может спровоцировать слишком резкий скачок в развитии нейросетей. Люди могут потерять возможность влиять на работу алгоритмов, уточнил он. При этом генсек ООН также высказывался о рисках утраты контроля над системами.

Читать по теме: В России стали защищать интернет от выходящих из-под контроля нейросетей.

Источник: glavny.tv