Вероятность уничтожения человечества ИИ в ближайшее десятилетие превышает 10% - эксперт Anthropic

ЕРЕВАН, 9 сентября. Новости-Армения. Ведущий исследователь безопасности ИИ компании Anthropic Эван Хубингер заявил, что вероятность того, что ИИ в течение следующего десятилетия сможет уничтожить человечество, превышает 10%, пишет BBC.

При этом он отметил, что риск со стороны существующих сегодня моделей остается низким. Однако, по его словам, технологии могут развиваться настолько быстро, что в ближайшем будущем ИИ сможет самостоятельно совершенствоваться и начать представлять экзистенциальную угрозу для человечества.

Хубингер не уточнил, каким именно образом ИИ может привести к исчезновению людей.

Его заявление прозвучало на фоне растущих предупреждений специалистов об опасностях стремительного развития ИИ. В частности, бывший исследователь Anthropic и OpenAI Джейкоб Коксон заявил, что обе компании действуют недостаточно ответственно.

По его словам, в скором времени могут появиться сверхчеловеческие системы, способные взламывать любые системы, кардинально менять целые отрасли и получать доступ к реальной власти и ресурсам.