Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Директор одной из ведущих в мире лабораторий ИИ заявил, что люди понятия не имеют, как работает эта технология
В своем новом эссе исследователь искусственного интеллекта и главный исполнительный директор компании Anthropic Дарио Амодей объявил о планах создать систему под названием «МРТ ИИ», которая должна выяснить, как работает технология. Цель в том, чтобы предотвратить любые непредвиденные опасности, связанные с загадочной природой ИИ.

«Когда генеративная система искусственного интеллекта что-то делает, например, дает оценку финансовому документу, мы не имеем ни малейшего представления, как она это делает — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна», — признался генеральный директор Anthropic.
На первый взгляд, для людей, далеких от мира ИИ, удивительно узнать, что специалисты, создающие эти постоянно совершенствующиеся технологии, не понимают, как работают их творения.
Но с другой стороны, возможно, все не совсем так; все генераторы изображений и текстов, которые стали очень популярны в последние годы, работают по сходному принципу: загружают гигантскую кучу данных и позволяют статистическим системам использовать их для шаблонов, которые можно воспроизвести. Все это основано на поглощенных творческих работах людей.
«Такое отсутствие понимания, по сути, беспрецедентно в истории технологий», — резюмировал Амодей.
Напомним, что в конце 2020 года Амодей покинул OpenAI из-за опасений по поводу пренебрежения компанией правил безопасности, которые она отбрасывает в погоне за прибылью. Амодей и еще пять бывших сотрудников OpenAI основали Anthropic, чтобы работать над созданием более безопасного ИИ.
Некогда ученые открыли темную материю, заметив, что звезды во внешней части Млечного Пути вращаются быстрее, чем должны, — из-за тяготения темной материи, окружающей видимую часть диска нашей Галактики. Новые данные показывают нечто странное: прежние наблюдения были ошибкой, а если верить новым, Млечный Путь — исключение, где темной материи якобы почти нет.
Прием оливкового масла перед углеводной пищей помог предотвратить резкие скачки сахара в крови, замедлил процесс пищеварения и запустил слаженную цепочку сигналов между нервной системой и гормонами. Ученые выяснили, что полезные жиры, принятые непосредственно перед углеводами, включают слаженную систему защиты от гипергликемии, которая продолжает эффективно работать даже при тяжелом диабете второго типа.
Нобелевский комитет при Шведской королевской академии наук объявил имена лауреатов премии Государственного банка Швеции по экономическим наукам памяти Альфреда Нобеля. Ими стали американцы Роберт Э. Холл и Майкл Вудфорд.
Некогда ученые открыли темную материю, заметив, что звезды во внешней части Млечного Пути вращаются быстрее, чем должны, — из-за тяготения темной материи, окружающей видимую часть диска нашей Галактики. Новые данные показывают нечто странное: прежние наблюдения были ошибкой, а если верить новым, Млечный Путь — исключение, где темной материи якобы почти нет.
Прием оливкового масла перед углеводной пищей помог предотвратить резкие скачки сахара в крови, замедлил процесс пищеварения и запустил слаженную цепочку сигналов между нервной системой и гормонами. Ученые выяснили, что полезные жиры, принятые непосредственно перед углеводами, включают слаженную систему защиты от гипергликемии, которая продолжает эффективно работать даже при тяжелом диабете второго типа.
Нобелевский комитет при Шведской королевской академии наук объявил имена лауреатов премии Государственного банка Швеции по экономическим наукам памяти Альфреда Нобеля. Ими стали американцы Роберт Э. Холл и Майкл Вудфорд.
Новый анализ наблюдений за северной полярной областью Марса заставил ученых пересмотреть представления о составе водяного льда. Выяснилось, что прежние модели заметно искажали одну из его главных характеристик. С учетом этого, местный лед потенциально может быть куда полезнее для персонала будущих марсианских баз.
В большинстве случаев планеты и иные тела, вращающиеся вокруг «нормальных» звезд главной последовательности, формируются достаточно далеко от своих светил, чтобы падать на них. Несмотря на это, теперь астрономы увидели, как красный карлик перетягивает на себя вещество от вращающегося вокруг него объекта. Тот уже делает один оборот вокруг своей звезды меньше, чем за полтора часа, и это время может уменьшаться.
Дата-центры для нейросетей в последние пару лет стали важнейшим фактором роста западной экономики, а заодно и мировой энергетики. В этом направлении нейросети создали немало новых рабочих мест, хотя и меньше, чем в программировании. Однако у невиданного бума есть и оборотная сторона: нобелевский лауреат Пол Кругман выяснил, что они буквально выдавливают остальные сектора экономики, забирая у них все больше инвестиций.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно














