Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Главный научный сотрудник OpenAI призвал срочно разработать стандарты безопасности для ИИ
Представители технологических компаний и ученые все чаще говорят о скором появлении сверхмощных моделей искусственного интеллекта. Но, как признался главный научный сотрудник OpenAI Якуб Пахоцкий, как контролировать такие системы, специалисты до конца не понимают.
В последние годы технологии искусственного интеллекта развиваются очень быстрыми темпами. В своей колонке на сайте OpenAI Пахоцкий отметил, что уже при нашей жизни появятся машины, превосходящие людей по уровню интеллекта. Если темпы развития ИИ сохранятся, в скором времени появятся системы, которые будут все активнее участвовать в собственном обучении. К этому моменту, по словам исследователя, важно подготовиться.
Даже специалисты не до конца понимают, как работает искусственный интеллект. Он скорее выращивается, чем проектируется. В результате появляется очень сложная система, способная работать с абстрактными понятиями и имитировать некоторые аспекты человеческого поведения. При этом полностью описать поведение этих систем исследователи пока не могут.
Одна из важных задач — разобраться с ценностями моделей. Если в некоторых аспектах ИИ становится сопоставим с человеком по уровню интеллекта, это не означает, что он обязательно будет разделять человеческие ценности. Важно, чтобы модель сохраняла человеческие ценности в разных условиях.
Развивать ИИ, по мнению исследователя, нужно, в том числе, для защиты от других ИИ-систем. Модели учатся взламывать компьютерные системы. И, вероятно, защищаться от таких атак придется с помощью более совершенных моделей.
Как отметил Пахоцкий, люди должны быть готовы к появлению сверхмощного ИИ. Важно сохранить способность людей самостоятельно принимать решения и ценность человеческой жизни в мире, где большинство задач сможет выполнять искусственный интеллект. Может возникнуть ситуация, когда задачи, на которые раньше требовались тысячи специалистов, смогут выполнять несколько человек, управляющих мощным компьютером. В этом случае очень важно предотвратить концентрацию власти в узком кругу людей.
Пахоцкий полагает, что пока ни одна лаборатория не решила задачи контроля и согласования сверхмощных моделей настолько, чтобы продолжать наращивать их возможности с максимальной скоростью. Он надеется, что компании согласятся добровольно притормозить развитие ИИ, пока не появятся общие стандарты безопасности. Международное регулирование ИИ должно стать одним из приоритетов для правительств.
1
Telegram 
Дзен 
VK
Предстоящие мероприятия
91% родителей считают игры важными для развития ребенка, однако лишь единицы сами предлагают детям поиграть. Взрослые сильно тревожатся из-за увлечения детей смартфонами, хотя зачастую сами преувеличивают время, которое школьники проводят в сети. К таким выводам пришли ученые НовГУ, изучив, как гаджеты и занятость взрослых меняют досуг младшеклассников.
Палеогенетики проанализировали ДНК и изотопный состав костей американского гепарда. Выяснилось, что вымерший хищник состоял в близком родстве с пумами, а особи из северных регионов питались в основном рыбой. Результаты анализа разрушили старый стереотип об этом животном как о родственнике африканского бегуна.
Химиотерапевтические препараты помогают уничтожить некоторые опухолевые клетки, но вместе с тем они нередко повреждают и здоровые ткани, в том числе периферические нервы. Из-за этого руки и ноги пациента начинают болеть и неметь. Авторы нового исследования показали в доклинических экспериментах на мышах и человеческих моделях нервной ткани, что предварительное введение псилоцибина может предотвращать повреждение нервов, вызванное химиотерапией.
Группа российских исследователей, в которую вошли океанологи Санкт-Петербургского университета, выявила существование ранее неизвестных механизмов распространения «волн Россби». В ходе работы им удалось зафиксировать точки, где перенос энергии прекращается, а траектории движения воды претерпевают изменения. Дополнительно ученые обнаружили асимметрию в динамике волновых процессов, зарождающихся у западных и восточных прибрежных течений.
Акционерное общество «Росатом — Возобновляемая энергия» построит в Амурской области завод по сборке элементов ветрогенераторов. Оборудование потребуется для будущих ветроэлектростанций на Дальнем Востоке. Сейчас крупные детали производят практически в другом конце страны. Собирать крупные узлы на месте будет дешевле, чем везти их.
«Росатом» рассматривает возможность создать под Мурманском новое предприятие для достройки плавучих атомных энергоблоков. Причина в том, что количество заказов госкорпорации растет, а существующих мощностей партнеров может не хватить.
Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии