• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Директор одной из ведущих в мире лабораторий ИИ заявил, что люди понятия не имеют, как работает эта технология

В своем новом эссе исследователь искусственного интеллекта и главный исполнительный директор компании Anthropic Дарио Амодей объявил о планах создать систему под названием «МРТ ИИ», которая должна выяснить, как работает технология. Цель в том, чтобы предотвратить любые непредвиденные опасности, связанные с загадочной природой ИИ.

Главный исполнительный директор компании Anthropic Дарио Амодей / © Getty Images  
Главный исполнительный директор компании Anthropic Дарио Амодей / © Getty Images  

«Когда генеративная система искусственного интеллекта что-то делает, например, дает оценку финансовому документу, мы не имеем ни малейшего представления, как она это делает — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна», — признался генеральный директор Anthropic.

На первый взгляд, для людей, далеких от мира ИИ, удивительно узнать, что специалисты, создающие эти постоянно совершенствующиеся технологии, не понимают, как работают их творения.

Но с другой стороны, возможно, все не совсем так; все генераторы изображений и текстов, которые стали очень популярны в последние годы, работают по сходному принципу: загружают гигантскую кучу данных и позволяют статистическим системам использовать их для шаблонов, которые можно воспроизвести. Все это основано на поглощенных творческих работах людей.

«Такое отсутствие понимания, по сути, беспрецедентно в истории технологий», — резюмировал Амодей.

Напомним, что в конце 2020 года Амодей покинул OpenAI из-за опасений по поводу пренебрежения компанией правил безопасности, которые она отбрасывает в погоне за прибылью. Амодей и еще пять бывших сотрудников OpenAI основали Anthropic, чтобы работать над созданием более безопасного ИИ.


Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

1 Комментарий
Я бы им помог с созданием ИИ на других принципах, но моё условие врядли кому-то подойдёт..ИИ должен способствовать упразднению социального неравенства, этот момент сильно ограничит возможность монетизации, а что ещё хуже потенциально разрушит социальные иерархии.
Предстоящие мероприятия
21 августа, 11:14
Адель Романова

У нескольких сравнительно недалеко расположенных от нас миров оказался настолько чужеродный химический состав, что это позволяет подозревать их внегалактическое происхождение. По основной версии, они попали в Млечный Путь из когда-то поглощенных им карликовых галактик.

22 августа, 08:33
Мария Азарова

Экипажи самолетов проводят много времени на высоте, где получают больше ионизирующего излучения, чем представители сотен других профессий. Новое исследование показало, что на пилотов и бортпроводников приходится самая высокая доля смертей от рака, связанного с воздействием радиации.

22 августа, 17:58
Evgenia Vavilova

Большой адронный коллайдер многие воспринимают как инструмент изучения первых мгновений жизни Вселенной и поиска редких частиц. Но ушедший на обновление ускоритель частиц все еще приносит новые данные и о таких, казалось бы, хорошо изученных объектах, как ядро атома кислорода. Физики ЦЕРН выяснили, что и оно, и ядро атома неона ведут себя не так, как предсказывали модели.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

20 августа, 11:56
Татьяна Зайцева

Множество переломов костей у средневекового скелета, захороненного в замке Стерлинг, позволили предположить, что мужчина погиб в результате прямого попадания снаряда, выпущенного из осадного орудия. Не исключено, что это был гигантский требушет «Боевой Волк», построенный по приказу короля Англии Эдуарда I.

16 августа, 11:45
Татьяна Зайцева

В черепах участников битв эпохи Средневековья часто находят отверстия квадратной формы, о происхождении которых спорят специалисты. Авторы нового исследования пришли к выводу, что такое повреждение — следствие смертельного удара по голове палицей.

31 июля, 14:12
Андрей Серегин

Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]