Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Крестный отец искусственного интеллекта призвал готовиться к новым ИИ, которые могут выйти из-под контроля
Лауреата Нобелевской премии Джеффри Хинтона называют «крестным отцом искусственного интеллекта». По его мнению, чем умнее будет становиться ИИ, тем людям сложнее будет его контролировать.
Хинтона встревожили новости об ИИ-агентах, вышедших за пределы тестовых сред и попытавшихся нанести реальный ущерб. Ученый считает, что такие системы становятся умнее. По его мнению, люди все чаще будут сталкиваться с ситуациями, когда искусственный интеллект выходит из-под контроля.
Лауреат Нобелевской премии сомневается, что люди смогут перехитрить сверхинтеллектуальные ИИ-модели. При этом он ожидает появления кибератак с участием ИИ.
Этим летом технологические компании, в том числе OpenAI и Anthropic, сообщили, что во время тестирований их передовые модели вышли за пределы изолированных тестовых сред и взломали другие системы. Хинтон назвал такие случаи «отчасти пугающими».
Хинтон до 2023 года работал в Google. В 2024 году он стал лауреатом Нобелевской премии по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей». При этом в последние годы он активно выступает с мрачными предупреждениями об ИИ.
По его словам, уже сейчас есть поводы для беспокойства из-за искусственного интеллекта. Хинтон считает, что компании пытаются убедить людей, что ИИ не выйдет из-под контроля, а также не приведет к массовой безработице. Однако он напоминает, что все происходит в условиях неопределенности. Сейчас никто не знает, каким станет искусственный интеллект через 10 лет. «Есть много поводов для беспокойства. Я думаю, если мы не начнем беспокоиться об этом сейчас, в будущем могут возникнуть проблемы», — сказал ученый.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Спустя три года после начала испытательных полетов крупнейшую ракету и космический корабль в истории человечества объявили готовыми к первому запуску на орбиту. Причем его планируют сразу десятичасовым и с выводом большой группы спутников Starlink нового поколения. По пропускной способности один этот запуск добавит столько же, сколько десять запусков Falcon 9, современного лидера серийного земного ракетостроения.
Необычный радиоисточник VT J1906+0849 в нашей Галактике остается активным около 20 лет. Правда, пока не удалось отнести его ни к одному известному типу галактических объектов. Судя по всему, ученые наткнулись на крайне редкий источник неизвестной природы.
Анализ данных о почти 300 тысячах километров римских дорог, проложенных по территории бывшей империи, показал, что они вовсе не были такими прямыми, как принято считать. Кроме того, выяснилось, что известная поговорка «Все дороги ведут в Рим» тоже не соответствует истине.
Совместная миссия Европейского космического агентства (ESA) и Японского агентства аэрокосмических исследований (JAXA) по исследованию Меркурия началась в 2018 году. На видео, созданном из кадров с бортовых камер, можно проследить восьмилетний путь зонда BepiColombo.
Современная космология до недавнего времени опиралась на так называемый космологический принцип, по которому у Вселенной нет какого-то выделенного направления. И наблюдатель в любой ее точке должен видеть однородную в этом смысле картину. Астроном из Северокавказской астрофизической обсерватории показал, что это не так даже для очень древней Вселенной.
Спустя три года после начала испытательных полетов крупнейшую ракету и космический корабль в истории человечества объявили готовыми к первому запуску на орбиту. Причем его планируют сразу десятичасовым и с выводом большой группы спутников Starlink нового поколения. По пропускной способности один этот запуск добавит столько же, сколько десять запусков Falcon 9, современного лидера серийного земного ракетостроения.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно
Последние комментарии