• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

У нас осталось мало времени: 100 компаний призвали подготовиться к ИИ-атакам

Около ста крупнейших компаний, в том числе Google, Microsoft, Anthropic и OpenAI, в открытом письме призвали организации по всему миру усилить киберзащиту, пока искусственный интеллект не научился обходить существующие системы защиты. Они ожидают, что в ближайшие месяцы увеличится количество атак с использованием ИИ.

Кадр из фильма «Матрица» / © Warner Bros., Village Roadshow Pictures
Кадр из фильма «Матрица» / © Warner Bros., Village Roadshow Pictures

В последнее время стало известно о нескольких крупных кибератаках. Например, Министерство юстиции США рассказало, что хакеры получили доступ к технологическим системам, которые обслуживают органы власти. Кроме того, этим летом ИИ-инструменты во время тестирований попытались обойти защитные механизмы. С этим столкнулись в том числе OpenAI и Anthropic.

На фоне этого представители крупнейших компаний подготовили открытое письмо. В число подписантов вошли банки, платежные системы и технологические компании. Авторы письма утверждают, что у организаций осталось ограниченное количество времени, чтобы улучшить киберзащиту. По их словам, существующих мер безопасности будет недостаточно. 

В первую очередь подписанты попросили правительства обратить внимание на больницы и предприятия, занимающиеся водоснабжением. В письме содержится и призыв к компаниям-разработчикам ИИ, согласно которому они должны предоставить доступ к моделям, выделить финансирование, а также помочь с обучением и практической поддержкой специалистов по защите критической инфраструктуры. Когда и как компании реализуют доступ к ИИ-моделям, в письме не уточняется.

Представитель некоммерческой организации CivAI Эндрю Юн ожидает, что люди столкнутся с беспрецедентной волной кибератак с использованием ИИ. Он поддержал инициативу технологических компаний выделить средства на защиту от таких атак. При этом он отметил, что среди предложенных мер авторы не упомянули замедление развития ИИ.

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

5 Комментариев
Tony Outis
1 час назад
Странно, очень странно, что данное обращение появилось только сейчас. Ибо готовиться надо было как минимум ещё год назад, если не все 3
Nikita Lazarenko
12 часов назад
История про голема во плоти
Сергей Сурков
15 часов назад
Чёт сюрреализм уже какой-то. Сами делают и при этом окружающим пишут. По сути это: "мы делаем, но понимаем, что справится не сможем, так что, ребята, держитесь!" А как-то притормозить, хотя бы чтобы усилить управляемость - "не, не слышали"
    Alexander Orsi
    11 часов назад
    Сергей, тогда страна, которая не "притормозит" (Китай например) - станет мировым диктатором.
    +
      Еще 1 ответ
      Сергей Сурков
      6 часов назад
      Alexander, само собой, что это надо делать всем. Вводить регулирование, правила, ограничения, придумывать проверки и "стоп-кнопку". Кажется, китай такое предлагал с полгода назад
Предстоящие мероприятия
29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

31 августа, 09:44
Evgenia Vavilova

Обычно место соединения двух деталей, даже из одного материала — слабая точка изделия. Но правильно сваренные друг с другом куски полиэтилена это правило нарушали, хотя ученые и не понимали почему.

30 августа, 16:26
Александр Березин

Телескоп «Роман» в несколько раз превосходит любого из своих американских предшественников по числу мегапикселей в матрице и будет отправлять на Землю больше данных, чем любой другой космический телескоп из когда-либо созданных. С его помощью астрономы надеются и прояснить природу темной энергии и материи, и найти немало новых экзопланет — в особенности планет-бродяг

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

29 августа, 16:51
Александр Березин

Госдолг США достиг 40 триллионов долларов и растет все быстрее и быстрее. На Западе переполох: при таких размерах его не выплатить. Следовательно, полагают многие, надо решить проблему как древние шумеры — долг обнулить и начать занимать заново. Рецепт кажется здравым, но есть нюансы. Причем поучительнее всего они даже не для Штатов, а, как ни странно, именно для России.

30 августа, 16:26
Александр Березин

Телескоп «Роман» в несколько раз превосходит любого из своих американских предшественников по числу мегапикселей в матрице и будет отправлять на Землю больше данных, чем любой другой космический телескоп из когда-либо созданных. С его помощью астрономы надеются и прояснить природу темной энергии и материи, и найти немало новых экзопланет — в особенности планет-бродяг

9 августа, 19:34
Марк Чернов

Американская компания Firebird официально запустила в городе Раздан крупный центр обработки данных и фабрику искусственного интеллекта. На сегодняшний день это самый масштабный технологический хаб подобного уровня в СНГ, а после завершения всех этапов строительства он войдет в пятерку самых мощных вычислительных кластеров в мире.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

[miniorange_social_login]