Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
В течение следующих 10 лет ИИ с вероятностью 10% решит уничтожить человечество – Anthropic
Искусственный интеллект может уничтожить человечество в течение следующего десятилетия. Руководитель направления исследований в области выравнивания ИИ компании Anthropic Эван Хубингер оценил вероятность такого события в 10 процентов.

Хубингер сделал заявление вскоре после громкого ухода из Anthropic исследователя Джейкоба Коксона, ранее работавшего также в OpenAI. Исследователь обвинил обе компании в том, что они без остановки стремятся к созданию сверхразумного и самоулучшающегося ИИ, ставя на кон будущее человечества.
Коксон отметил, что в СМИ главы компаний делают красивые заявления, но сами боятся, что технология может привести к гибели человечества уже к концу десятилетия. По словам исследователя, в будущем модели смогут взламывать системы и получать доступ к ресурсам.
С ним согласился Хубингер, признав, что ИИ может погубить всех людей. Он сам оценил вероятность гибели человечества более чем в 10 процентов. Хубингер заявил, что Anthropic делает все возможное, но исследователи пока не знают, как решить проблему выравнивания сверхразумного ИИ.

Недавно о непонимании, как контролировать сверхмощные модели искусственного интеллекта, говорил главный научный сотрудник OpenAI Якуб Пахоцкий. Он призвал как можно быстрее разработать стандарты безопасности для ИИ. При этом он признал, что компании продолжают наращивать мощности.
Артем Оганов стал иностранным членом Национальной академии наук Республики Армении. В прошлом этой чести также удостоился физик Юрий Оганесян.
Космос велик, но не пуст. Практически в каждой его точке можно найти если не пыль, то летящие в разных направлениях элементарные частицы. И чем больше энергия частицы, тем меньшее расстояние она должна пролететь, не потеряв эту энергию.
В Нидерландах 7 сентября открылся крупнейший в Европе комплекс по улавливанию углекислого газа. При этом храниться углекислый газ будет в Норвегии.
Особо чистый германий — полупроводниковый материал с минимальным содержанием примесей, который активно используют в ядерной физике, медицине и оборонной промышленности. Российские ученые предложили новую технологию, позволяющую получить монокристаллы германия особой чистоты.
Акционерное общество «Росатом — Возобновляемая энергия» построит в Амурской области завод по сборке элементов ветрогенераторов. Оборудование потребуется для будущих ветроэлектростанций на Дальнем Востоке. Сейчас крупные детали производят практически в другом конце страны. Собирать крупные узлы на месте будет дешевле, чем везти их.
Артем Оганов стал иностранным членом Национальной академии наук Республики Армении. В прошлом этой чести также удостоился физик Юрий Оганесян.
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Росатом
Последние комментарии