Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Директор одной из ведущих в мире лабораторий ИИ заявил, что люди понятия не имеют, как работает эта технология
В своем новом эссе исследователь искусственного интеллекта и главный исполнительный директор компании Anthropic Дарио Амодей объявил о планах создать систему под названием «МРТ ИИ», которая должна выяснить, как работает технология. Цель в том, чтобы предотвратить любые непредвиденные опасности, связанные с загадочной природой ИИ.

«Когда генеративная система искусственного интеллекта что-то делает, например, дает оценку финансовому документу, мы не имеем ни малейшего представления, как она это делает — почему она выбирает одни слова вместо других или почему она иногда совершает ошибку, хотя обычно она точна», — признался генеральный директор Anthropic.
На первый взгляд, для людей, далеких от мира ИИ, удивительно узнать, что специалисты, создающие эти постоянно совершенствующиеся технологии, не понимают, как работают их творения.
Но с другой стороны, возможно, все не совсем так; все генераторы изображений и текстов, которые стали очень популярны в последние годы, работают по сходному принципу: загружают гигантскую кучу данных и позволяют статистическим системам использовать их для шаблонов, которые можно воспроизвести. Все это основано на поглощенных творческих работах людей.
«Такое отсутствие понимания, по сути, беспрецедентно в истории технологий», — резюмировал Амодей.
Напомним, что в конце 2020 года Амодей покинул OpenAI из-за опасений по поводу пренебрежения компанией правил безопасности, которые она отбрасывает в погоне за прибылью. Амодей и еще пять бывших сотрудников OpenAI основали Anthropic, чтобы работать над созданием более безопасного ИИ.
Если гипотетическая внеземная цивилизация живет возле очень старой и потому очень горячей звезды, она могла бы спасти свою планету от перегрева с помощью защитной астроинженерной конструкции. Астрофизики рассказали, как ее можно будет обнаружить с помощью новой обсерватории.
Самцов пауков из рода черных вдов голодные самки после спаривания часто съедают. Поэтому, чтобы привлечь их, нужны серьезные ухищрения. Ученые выявили важнейший феромон, используемый для этих целей, и выяснили, что выделяют его самки с изменяющейся силой.
В экспериментальных рейсах на электромобиле в темное время суток ученые сравнили действие на пассажиров теплого красного и холодного синего освещения, а также эффект от езды с выключенной подсветкой салона.
Археологи Института истории материальной культуры РАН (ИИМК РАН), при поддержке фонда «История отечества» в ходе раскопок обнаружили на всемирно известной стоянке каменного века Костенки-17 в Воронежской области редчайшие украшения из зубов песца и окаменелой раковины, а также уникальный для этого времени нуклеус из бивня мамонта для снятия заготовок.
Обычно выбрасываемое кометой вещество придает ей заметное ускорение. Как выяснилось, с третьим известным науке межзвездным объектом 3I/ATLAS этого практически не происходит, хотя у него есть и кома, и хвост. Астрофизики сейчас пытаются найти этому объяснение.
Если гипотетическая внеземная цивилизация живет возле очень старой и потому очень горячей звезды, она могла бы спасти свою планету от перегрева с помощью защитной астроинженерной конструкции. Астрофизики рассказали, как ее можно будет обнаружить с помощью новой обсерватории.
Посадка, включая выгорание куска степи, прошла штатно, но часть грызунов на борту погибли. Правда, погубила их не повышенная космическая радиация полярной орбиты, влияние которой на млекопитающих планировали выявить в миссии, а более банальные причины.
Исследования самодержавия могут пролить свет на феномен, исконно свойственный российской государственности, а значит, переосмыслить исторический путь России и выработку новых направлений развития, к такому выводу пришел ученый ТюмГУ.
Третий известный межзвездный объект 3I/ATLAS летит примерно вдвое быстрее обоих своих предшественников. По расчетам, его вряд ли могло выбросить из родной планетной системы с подобной скоростью, и так разогнаться по пути он тоже не мог.

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Комментарии