• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Директор одной из ведущих в мире лабораторий ИИ заявил, что люди понятия не имеют, как работает эта технология

В своем новом эссе исследователь искусственного интеллекта и главный исполнительный директор компании Anthropic Дарио Амодей объявил о планах создать систему под названием «МРТ ИИ», которая должна выяснить, как работает технология. Цель в том, чтобы предотвратить любые непредвиденные опасности, связанные с загадочной природой ИИ.

Главный исполнительный директор компании Anthropic Дарио Амодей / © Getty Images  
Главный исполнительный директор компании Anthropic Дарио Амодей / © Getty Images  

«Когда генеративная система искусственного интеллекта что-то делает, например, дает оценку финансовому документу, мы не имеем ни малейшего представления, как она это делает — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна», — признался генеральный директор Anthropic.

На первый взгляд, для людей, далеких от мира ИИ, удивительно узнать, что специалисты, создающие эти постоянно совершенствующиеся технологии, не понимают, как работают их творения.

Но с другой стороны, возможно, все не совсем так; все генераторы изображений и текстов, которые стали очень популярны в последние годы, работают по сходному принципу: загружают гигантскую кучу данных и позволяют статистическим системам использовать их для шаблонов, которые можно воспроизвести. Все это основано на поглощенных творческих работах людей.

«Такое отсутствие понимания, по сути, беспрецедентно в истории технологий», — резюмировал Амодей.

Напомним, что в конце 2020 года Амодей покинул OpenAI из-за опасений по поводу пренебрежения компанией правил безопасности, которые она отбрасывает в погоне за прибылью. Амодей и еще пять бывших сотрудников OpenAI основали Anthropic, чтобы работать над созданием более безопасного ИИ.


Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

1 Комментарий
-
0
+
Я бы им помог с созданием ИИ на других принципах, но моё условие врядли кому-то подойдёт..ИИ должен способствовать упразднению социального неравенства, этот момент сильно ограничит возможность монетизации, а что ещё хуже потенциально разрушит социальные иерархии.
Предстоящие мероприятия
7 января, 10:01
Максим Абдулаев

Ученые опровергли представление о медленной химической реакции флоры на инфекции, выяснив, что растения передают сигнал тревоги стремительными электрическими импульсами. Оказалось, что для активации этой «нервной системы» используются не профильные противомикробные вещества, а гормоны, которые раньше считались ответственными исключительно за защиту от насекомых.

7 января, 11:07
Игорь Байдов

В 1892 году американский астроном Эдвард Эмерсон Барнард увидел рядом с Венерой яркую звезду. Позже светило словно растворилась в небе, породив множество гипотез. Загадка «исчезнувшей звезды» более века волновала астрономов, пока группа американских исследователей, наконец, ее не разгадала.

5 января, 10:53
Александр Березин

В конце 2025 года СМИ рассказали нам, что «новая» российская орбитальная станция (РОС) будет состоять из модулей, летающих в космосе до 30 лет. «И так сойдет!»: новую российскую орбитальную станцию соберут из остатков МКС», «Отцепим старье от МКС и будем бесконечно чинить» — это не издание «Панорама», а абсолютно реальные заголовки российских СМИ. Печально, но сходную позицию занял и лучший космический журналист и расследователь современного мира Эрик Бергер. Он зашел настолько далеко, чтобы пожалеть, что Дмитрий Рогозин уже не возглавляет «Роскосмос». А вот у тех, кто знает тему, решения по РОС, заявленные официальными лицами в конце прошлого года, вызвали положительную реакцию. Почему?

5 января, 10:53
Александр Березин

В конце 2025 года СМИ рассказали нам, что «новая» российская орбитальная станция (РОС) будет состоять из модулей, летающих в космосе до 30 лет. «И так сойдет!»: новую российскую орбитальную станцию соберут из остатков МКС», «Отцепим старье от МКС и будем бесконечно чинить» — это не издание «Панорама», а абсолютно реальные заголовки российских СМИ. Печально, но сходную позицию занял и лучший космический журналист и расследователь современного мира Эрик Бергер. Он зашел настолько далеко, чтобы пожалеть, что Дмитрий Рогозин уже не возглавляет «Роскосмос». А вот у тех, кто знает тему, решения по РОС, заявленные официальными лицами в конце прошлого года, вызвали положительную реакцию. Почему?

2 января, 12:27
Адель Романова

Ученые задались вопросом: почему два расположенных по соседству спутника Юпитера такие разные, ведь на Ио повсеместно извергаются вулканы, а Европа полностью покрыта многокилометровой коркой льда. Есть версия, что Ио когда-то тоже была богата водой, но по итогам недавнего исследования это сочли неправдоподобным.

7 января, 10:01
Максим Абдулаев

Ученые опровергли представление о медленной химической реакции флоры на инфекции, выяснив, что растения передают сигнал тревоги стремительными электрическими импульсами. Оказалось, что для активации этой «нервной системы» используются не профильные противомикробные вещества, а гормоны, которые раньше считались ответственными исключительно за защиту от насекомых.

17.12.2025, 14:19
Игорь Байдов

На скалистых берегах аргентинской Патагонии разворачивается настоящая драма. Магеллановы пингвины, долгое время чувствовавшие себя в безопасности на суше в своих многотысячных колониях, столкнулись с новым и беспощадным врагом. Их извечные морские страхи — касатки и морские леопарды — теперь блекнут перед угрозой, пришедшей из глубины материка. Виновник переполоха — грациозный и мощный хищник, недавно вернувшийся на эти земли после долгого изгнания.

23.12.2025, 10:51
Игорь Байдов

Среди самых интригующих открытий космического телескопа «‎Джеймс Уэбб» — компактные объекты, получившие название «маленькие красные точки». Их видели только в самых дальних уголках Вселенной. Большинство возникло в первый миллиард лет после Большого взрыва, и ученые предполагали, что такие источники представляют собой небольшие компактные галактики. Однако международная команда астрономов пришла к иному выводу. Они предположили, что на самом деле «маленькие красные точки» — черные дыры, окруженные массивной газовой оболочкой.

12.12.2025, 13:48
Игорь Байдов

У побережья Канады морские биологи стали свидетелями необычного случая. Косатки и дельфины объединили свои силы, чтобы вместе охотиться на тихоокеанского лосося. Они погружались в темные глубины, а после удачной охоты делились пищей. Это первое задокументированное охотничье сотрудничество между двумя видами морских млекопитающих.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно