Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.
Крестный отец ИИ решил предупредить лидеров ЕС: искусственный интеллект может убить нас в течение трех лет
Представители технологической отрасли все чаще выступают с предостережениями, касающимися искусственного интеллекта. Лауреат Нобелевской премии, которого называют «Крестным отцом ИИ», решил встретиться с европейскими чиновниками и предупредить их, что через три года искусственный интеллект может убить людей.
Джеффри Хинтон, внесший большой вклад в развитие нейросетей, не первый раз затрагивает тему опасности ИИ. Этот вопрос также обсуждался на лекциях в Торонто, организованных AI Safety Foundation. Тогда эксперты предположили, что ИИ может одолеть правительства стран в течение ближайших шести ‐ 18 месяцев. Исследователь Alignment Research Centre Пол Кристиано заявил, что если власть захватит ИИ, многие люди погибнут. Он оценил, что произойти это может в течение ближайших трех лет.
Хинтон и раньше предупреждал об опасностях технологии, но, по его словам, он не осознавал, что это может произойти так быстро. Изначально он оценивал, что это может случиться в ближайшие десять лет. Однако слова Кристиано встревожили его.
«Я собираюсь рассказать об этом представителям правительств. То, что происходит, чрезвычайно опасно. Люди еще не поняли, что значит иметь дело со сверхразумным ИИ. Если он обладает сверхразумом, то не вы будете его контролировать, а он будет контролировать вас», — заявил Хинтон.
На своих лекциях Кристиано рассказал, как развился ИИ за последние шесть месяцев. Он напомнил, что модель OpenAI вышла в интернет и взломала Hugging Face. По словам Кристиано, действия современных ИИ-ботов еще год назад казались бы научной фантастикой, но теперь они могут получать админские права, помогать друг другу выполнять задания и даже создавать доску сообщений, где обсуждают, как обмануть администраторов, чтобы их не заподозрили в нарушениях.
Кристиано полагает, что человечество движется к миру, в котором появятся миллиарды ИИ-систем, которые почти во всем превосходят людей. И, вероятно, преследовать они будут собственные цели.
Во время встречи с лидерами стран ЕС Хинтон выступил с резким заявлением о рисках ИИ. Он выступил за глобальное регулирование технологии. Ученый также призвал европейские страны стать инициаторами контроля.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Telegram 
Дзен 
VK
Предстоящие мероприятия
В 2025 году компания Colossal Biosciences показала Dire Wolf Project — трех «воскресших лютоволков». Это оказалось не вполне воскрешением, и ученые обеспокоены тем, что усилия генетиков направлены в эту сторону.
Ученые пришли к выводу, что так называемая «нога из Милсингтона» некогда принадлежала монументальной конной статуе императора Антонина Пия, установленной на северной границе Римской империи. Специалисты реконструировали внешний вид скульптуры, однако где находятся остальные ее части, остается неизвестным.
Американская компания SpaceX готова к 15-му испытательному запуску транспортной системы Starship. На этот раз планируют не только отправить корабль на орбиту и вывести партию спутников Starlink, но и впервые вернуть на стартовую площадку обе ступени ракеты. Никогда ранее — ни в эпоху «Шаттлов» с их одноразовыми боковыми ускорителями, ни в других космических системах — никто не пытался сделать такое.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Ученый из Японии попытался рассчитать теоретическую возможность для человечества поддерживать контакт с другими разумными сообществами. Он пришел к выводу, что даже при наличии внеземных цивилизаций в Галактике шансы наладить с ними связь почти равны нулю. Это означает, что наше одиночество нельзя считать основанием однозначно утверждать о безжизненности Млечного Пути за пределами Солнечной системы.
Ученые зафиксировали загадочный радиосигнал на частоте 45 мегагерц от системы красного карлика GJ 725A, расположенной на расстоянии около 11,5 светового года. Это самое низкочастотное подтвержденное обнаружение когерентного радиоизлучения от звездной системы, которое когда-либо удавалось надежно зарегистрировать.
Физики изучили уравнения Эйнштейна в форме, похожей на уравнения плазмы, и построили математическую теорию «гравитационного пересоединения». В рамках нее по аналогии с разрывом и слипанием магнитных силовых линий в плазме гравитационные «листы» пространства-времени тоже могли бы разрываться и слипаться, передавая энергию из поля в вещество.
Спутниковый анализ позволил составить карту истощения подземных вод по всей планете. Оказалось, в наибольшей степени сокращение запасов происходит не от уменьшения объема осадков, а там, где подземные воды активнее всего используют для орошаемого земледелия, важного для обеспечения продовольствием миллиардов людей.
Луна и Солнце вызывают не только океанские приливы, но и микроскопические колебания гравитационного потенциала на Земле, из-за чего время в разных точках планеты течет с немного разной скоростью. Физики впервые зафиксировали эти периодические изменения с помощью сети оптических часов, объединенных оптоволоконными линиями.
[miniorange_social_login]
Подтвердить?
Не получилось опубликовать!
Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.
Понятно
Комментарий на проверке
Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.
Понятно
Аккаунт заблокирован!
Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.
Понятно
Что-то пошло не так!
Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.
ПонятноЛучшие материалы
Войти
Вконтакте
По e-mail
Google
Яндекс ID
Ваша заявка получена
Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.
Понятно