Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Директор одной из ведущих в мире лабораторий ИИ заявил, что люди понятия не имеют, как работает эта технология
В своем новом эссе исследователь искусственного интеллекта и главный исполнительный директор компании Anthropic Дарио Амодей объявил о планах создать систему под названием «МРТ ИИ», которая должна выяснить, как работает технология. Цель в том, чтобы предотвратить любые непредвиденные опасности, связанные с загадочной природой ИИ.

«Когда генеративная система искусственного интеллекта что-то делает, например, дает оценку финансовому документу, мы не имеем ни малейшего представления, как она это делает — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна», — признался генеральный директор Anthropic.
На первый взгляд, для людей, далеких от мира ИИ, удивительно узнать, что специалисты, создающие эти постоянно совершенствующиеся технологии, не понимают, как работают их творения.
Но с другой стороны, возможно, все не совсем так; все генераторы изображений и текстов, которые стали очень популярны в последние годы, работают по сходному принципу: загружают гигантскую кучу данных и позволяют статистическим системам использовать их для шаблонов, которые можно воспроизвести. Все это основано на поглощенных творческих работах людей.
«Такое отсутствие понимания, по сути, беспрецедентно в истории технологий», — резюмировал Амодей.
Напомним, что в конце 2020 года Амодей покинул OpenAI из-за опасений по поводу пренебрежения компанией правил безопасности, которые она отбрасывает в погоне за прибылью. Амодей и еще пять бывших сотрудников OpenAI основали Anthropic, чтобы работать над созданием более безопасного ИИ.
У нескольких сравнительно недалеко расположенных от нас миров оказался настолько чужеродный химический состав, что это позволяет подозревать их внегалактическое происхождение. По основной версии, они попали в Млечный Путь из когда-то поглощенных им карликовых галактик.
Экипажи самолетов проводят много времени на высоте, где получают больше ионизирующего излучения, чем представители сотен других профессий. Новое исследование показало, что на пилотов и бортпроводников приходится самая высокая доля смертей от рака, связанного с воздействием радиации.
Большой адронный коллайдер многие воспринимают как инструмент изучения первых мгновений жизни Вселенной и поиска редких частиц. Но ушедший на обновление ускоритель частиц все еще приносит новые данные и о таких, казалось бы, хорошо изученных объектах, как ядро атома кислорода. Физики ЦЕРН выяснили, что и оно, и ядро атома неона ведут себя не так, как предсказывали модели.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
Множество переломов костей у средневекового скелета, захороненного в замке Стерлинг, позволили предположить, что мужчина погиб в результате прямого попадания снаряда, выпущенного из осадного орудия. Не исключено, что это был гигантский требушет «Боевой Волк», построенный по приказу короля Англии Эдуарда I.
В черепах участников битв эпохи Средневековья часто находят отверстия квадратной формы, о происхождении которых спорят специалисты. Авторы нового исследования пришли к выводу, что такое повреждение — следствие смертельного удара по голове палицей.
Долгое время считалось, что до прихода европейцев тропические леса Амазонии были заселены сравнительно плохо. Однако выяснилось, что плотная растительность скрывает большинство следов древних обществ. С помощью воздушного лазерного сканирования ученые обнаружили сотни неизвестных земляных сооружений и предположили, что около двух тысяч лет назад население юго-западной части Амазонии могло достигать трех миллионов человек.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии