#безопасность ИИ

Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.

Независимая команда a7t, проверяющая большие языковые модели, решила провести эксперимент. Они попросили ИИ-модели популярных компаний столкнуть виртуального человека с крыши. GPT-6 Astra сделала это в двух случаях из трех.

Бывший исследователь Google DeepMind Билал Чугтай заявил, что развитие искусственного интеллекта идет быстрее, чем работа над способами его контролировать. По его мнению, появление сверхразумных систем без надежных механизмов безопасности в худшем случае может привести к потере человечеством контроля над происходящим и даже его гибели. 

Американский сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку и использование искусственного суперинтеллекта в США. За нарушение запрета физическим лицам может грозить до 20 лет лишения свободы, а компании могут принудительно ликвидировать. Разработку менее мощных, но продвинутых систем ИИ предлагается временно остановить до появления федеральных правил безопасности.