Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
В течение следующих 10 лет ИИ с вероятностью 10% решит уничтожить человечество – Anthropic
Искусственный интеллект может уничтожить человечество в течение следующего десятилетия. Руководитель направления исследований в области выравнивания ИИ компании Anthropic Эван Хубингер оценил вероятность такого события в 10 процентов.

Хубингер сделал заявление вскоре после громкого ухода из Anthropic исследователя Джейкоба Коксона, ранее работавшего также в OpenAI. Исследователь обвинил обе компании в том, что они без остановки стремятся к созданию сверхразумного и самоулучшающегося ИИ, ставя на кон будущее человечества.
Коксон отметил, что в СМИ главы компаний делают красивые заявления, но сами боятся, что технология может привести к гибели человечества уже к концу десятилетия. По словам исследователя, в будущем модели смогут взламывать системы и получать доступ к ресурсам.
С ним согласился Хубингер, признав, что ИИ может погубить всех людей. Он сам оценил вероятность гибели человечества более чем в 10 процентов. Хубингер заявил, что Anthropic делает все возможное, но исследователи пока не знают, как решить проблему выравнивания сверхразумного ИИ.

Недавно о непонимании, как контролировать сверхмощные модели искусственного интеллекта, говорил главный научный сотрудник OpenAI Якуб Пахоцкий. Он призвал как можно быстрее разработать стандарты безопасности для ИИ. При этом он признал, что компании продолжают наращивать мощности.
Артем Оганов стал иностранным членом Национальной академии наук Республики Армении. В прошлом этой чести также удостоился физик Юрий Оганесян.
Особо чистый германий — полупроводниковый материал с минимальным содержанием примесей, который активно используют в ядерной физике, медицине и оборонной промышленности. Российские ученые предложили новую технологию, позволяющую получить монокристаллы германия особой чистоты.
Космос велик, но не пуст. Практически в каждой его точке можно найти если не пыль, то летящие в разных направлениях элементарные частицы. И чем больше энергия частицы, тем меньшее расстояние она должна пролететь, не потеряв эту энергию.
Особо чистый германий — полупроводниковый материал с минимальным содержанием примесей, который активно используют в ядерной физике, медицине и оборонной промышленности. Российские ученые предложили новую технологию, позволяющую получить монокристаллы германия особой чистоты.
Акционерное общество «Росатом — Возобновляемая энергия» построит в Амурской области завод по сборке элементов ветрогенераторов. Оборудование потребуется для будущих ветроэлектростанций на Дальнем Востоке. Сейчас крупные детали производят практически в другом конце страны. Собирать крупные узлы на месте будет дешевле, чем везти их.
Артем Оганов стал иностранным членом Национальной академии наук Республики Армении. В прошлом этой чести также удостоился физик Юрий Оганесян.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
Понятно
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Росатом
Последние комментарии