Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Крестный отец искусственного интеллекта призвал готовиться к новым ИИ, которые могут выйти из-под контроля
Лауреата Нобелевской премии Джеффри Хинтона называют «крестным отцом искусственного интеллекта». По его мнению, чем умнее будет становиться ИИ, тем людям сложнее будет его контролировать.
Хинтона встревожили новости об ИИ-агентах, вышедших за пределы тестовых сред и попытавшихся нанести реальный ущерб. Ученый считает, что такие системы становятся умнее. По его мнению, люди все чаще будут сталкиваться с ситуациями, когда искусственный интеллект выходит из-под контроля.
Лауреат Нобелевской премии сомневается, что люди смогут перехитрить сверхинтеллектуальные ИИ-модели. При этом он ожидает появления кибератак с участием ИИ.
Этим летом технологические компании, в том числе OpenAI и Anthropic, сообщили, что во время тестирований их передовые модели вышли за пределы изолированных тестовых сред и взломали другие системы. Хинтон назвал такие случаи «отчасти пугающими».
Хинтон до 2023 года работал в Google. В 2024 году он стал лауреатом Нобелевской премии по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей». При этом в последние годы он активно выступает с мрачными предупреждениями об ИИ.
По его словам, уже сейчас есть поводы для беспокойства из-за искусственного интеллекта. Хинтон считает, что компании пытаются убедить людей, что ИИ не выйдет из-под контроля, а также не приведет к массовой безработице. Однако он напоминает, что все происходит в условиях неопределенности. Сейчас никто не знает, каким станет искусственный интеллект через 10 лет. «Есть много поводов для беспокойства. Я думаю, если мы не начнем беспокоиться об этом сейчас, в будущем могут возникнуть проблемы», — сказал ученый.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
Человечество на протяжении почти всего своего существования пользуется стимуляторами и веществами, изменяющими восприятие реальности. Сегодня кофе уже не столько энергетический напиток, сколько маленькое удовольствие, для которого активирующий нервную систему эффект может быть лишним.
Древнейшие остатки летучих мышей находили на разных континентах, поэтому определить место их происхождения долго не удавалось. Ученые сопоставили геномы современных видов с ископаемыми находками и пришли к выводу, что летучие мыши зародились в Европе в конце палеоцена.
Ученые РГУ нефти и газа (НИУ) имени И.М. Губкина провели испытания автономной установки для обеспечения пресной водой удаленных нефтегазовых объектов. В ее основе — технология извлечения атмосферной влаги с использованием разработанного в университете композитного сорбционного материала. По расчетам исследователей, установка будет особенно эффективна на таких территориях с влажным климатом, как Каспийский шельф и Сахалин. В Восточной Сибири она может использоваться сезонно.
Европейское космическое агентство опубликовало снимок галактики NGC 4698, расположенной в созвездии Дева. Хотя на фотографии, сделанной телескопом «Хаббл», галактика кажется безмятежной, она хранит удивительную тайну: находящиеся в центре звезды и газ вращаются под прямым углом по отношению к остальной части диска.
Всего 20-30 лет назад большинство женщин ходили на каблуках, а большинство мужчин — в обуви, подошва которой серьезно нагружала позвоночник и мышцы спины. Если задуматься, факт поразительный: 20 тысяч лет назад, в палеолите, таких проблем человечество вообще не испытывало. Как так получилось и что новые материалы делают, чтобы все эти сложности стали прошлым?
Американские исследователи впервые смогли напрямую увидеть «квантовый скачок» звука — скачкообразный переход фонона, минимальной единицы звуковой энергии, между энергетическими уровнями в реальном времени. Это наблюдение завершило столетнюю историю поисков, начатую еще на заре квантовой физики, и открыло дорогу к созданию устойчивых квантовых компьютеров и сверхчувствительных датчиков.
Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?
Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.
Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно