#Claude

Roman Markin
3,7 тыс

Модель Anthropic во время учебного взлома переключилась на посторонний проект и выдавала себя за нескольких пользователей, убеждая разработчиков принять опасную правку. В повторных экспериментах сообщение о том, что перед ней реальные люди, почти не останавливало атаку.

Roman Markin
1,7 тыс

Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.