Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

1,0 тыс

У нас осталось мало времени: 100 компаний призвали подготовиться к ИИ-атакам

Около ста крупнейших компаний, в том числе Google, Microsoft, Anthropic и OpenAI, в открытом письме призвали организации по всему миру усилить киберзащиту, пока искусственный интеллект не научился обходить существующие системы защиты. Они ожидают, что в ближайшие месяцы увеличится количество атак с использованием ИИ.

Кадр из фильма «Матрица» / © Warner Bros., Village Roadshow Pictures
Кадр из фильма «Матрица» / © Warner Bros., Village Roadshow Pictures

В последнее время стало известно о нескольких крупных кибератаках. Например, Министерство юстиции США рассказало, что хакеры получили доступ к технологическим системам, которые обслуживают органы власти. Кроме того, этим летом ИИ-инструменты во время тестирований попытались обойти защитные механизмы. С этим столкнулись в том числе OpenAI и Anthropic.

На фоне этого представители крупнейших компаний подготовили открытое письмо. В число подписантов вошли банки, платежные системы и технологические компании. Авторы письма утверждают, что у организаций осталось ограниченное количество времени, чтобы улучшить киберзащиту. По их словам, существующих мер безопасности будет недостаточно. 

В первую очередь подписанты попросили правительства обратить внимание на больницы и предприятия, занимающиеся водоснабжением. В письме содержится и призыв к компаниям-разработчикам ИИ, согласно которому они должны предоставить доступ к моделям, выделить финансирование, а также помочь с обучением и практической поддержкой специалистов по защите критической инфраструктуры. Когда и как компании реализуют доступ к ИИ-моделям, в письме не уточняется.

Представитель некоммерческой организации CivAI Эндрю Юн ожидает, что люди столкнутся с беспрецедентной волной кибератак с использованием ИИ. Он поддержал инициативу технологических компаний выделить средства на защиту от таких атак. При этом он отметил, что среди предложенных мер авторы не упомянули замедление развития ИИ.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.
Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Комментарии

6 Комментариев
Buy Sell
2 недели назад
хорошо бы перестать называть нейросетки - ИИ... до ИИ еще как до китая задом неперед, альтман вона правда в очередной раз объявляет о его рождении точно к НГ, но это (точно) не точно...
Tony Outis
2 недели назад
Странно, очень странно, что данное обращение появилось только сейчас. Ибо готовиться надо было как минимум ещё год назад, если не все 3
Nikita Lazarenko
2 недели назад
История про голема во плоти
Сергей Сурков
2 недели назад
Чёт сюрреализм уже какой-то. Сами делают и при этом окружающим пишут. По сути это: "мы делаем, но понимаем, что справится не сможем, так что, ребята, держитесь!" А как-то притормозить, хотя бы чтобы усилить управляемость - "не, не слышали"
    Alexander Orsi
    2 недели назад
    Сергей, тогда страна, которая не "притормозит" (Китай например) - станет мировым диктатором.
    +
      Еще 1 ответ
      Сергей Сурков
      2 недели назад
      Alexander, само собой, что это надо делать всем. Вводить регулирование, правила, ограничения, придумывать проверки и "стоп-кнопку". Кажется, китай такое предлагал с полгода назад
Предстоящие мероприятия
16 сентября, 12:58
Любовь С.

Необычный радиоисточник VT J1906+0849 в нашей Галактике остается активным около 20 лет. Правда, пока не удалось отнести его ни к одному известному типу галактических объектов. Судя по всему, ученые наткнулись на крайне редкий источник неизвестной природы.

16 сентября, 12:12
Александр Березин

Спустя три года после начала испытательных полетов крупнейшую ракету и космический корабль в истории человечества объявили готовыми к первому запуску на орбиту. Причем его планируют сразу десятичасовым и с выводом большой группы спутников Starlink нового поколения. По пропускной способности один этот запуск добавит столько же, сколько десять запусков Falcon 9, современного лидера серийного земного ракетостроения.

16 сентября, 14:29
Татьяна Зайцева

Анализ данных о почти 300 тысячах километров римских дорог, проложенных по территории бывшей империи, показал, что они вовсе не были такими прямыми, как принято считать. Кроме того, выяснилось, что известная поговорка «Все дороги ведут в Рим» тоже не соответствует истине.

14 сентября, 14:43
Елизавета З.

Совместная миссия Европейского космического агентства (ESA) и Японского агентства аэрокосмических исследований (JAXA) по исследованию Меркурия началась в 2018 году. На видео, созданном из кадров с бортовых камер, можно проследить восьмилетний путь зонда BepiColombo.

11 сентября, 10:25
Александр Березин

Современная космология до недавнего времени опиралась на так называемый космологический принцип, по которому у Вселенной нет какого-то выделенного направления. И наблюдатель в любой ее точке должен видеть однородную в этом смысле картину. Астроном из Северокавказской астрофизической обсерватории показал, что это не так даже для очень древней Вселенной.

15 сентября, 11:38
Evgenia Vavilova

Тренды здорового питания постоянно меняются, в том числе на основе научных исследований. Когда-то публика панически боялась жиров, но их реабилитировали. Гарвардская пирамида здорового питания рисовала сложные углеводы в основании пирамиды, а теперь они переместились к вершине. Возможно, и современную моду на приоритет белка придется пересмотреть.

9 сентября, 22:44
Александр Березин

Нейросеть OpenAI добилась серьезного прорыва в математике, решив одну из семи «задач тысячелетия». Получат ли США, чьи нейросети опираются на гораздо более мощное «железо», чем у Китая, монополию на конвейер научных открытий? Даст ли это возможности сравнимые с их атомной монополией 80 лет назад?

28 августа, 15:43
Татьяна Зайцева

Сопротивление жителей Европы самой идее употребления насекомых в пищу может иметь эволюционные корни, уходящие вглубь тысячелетий, пришли к выводу авторы нового исследования. Оказалось, предки современных европейцев ели насекомых лишь эпизодически. Кроме того, из-за генетических мутаций они плохо переваривали их экзоскелеты.

19 августа, 18:31
Александр Березин

После сокращения длины очередей и роста доступности бензина в первую неделю августа ситуация снова ухудшилась. Если с 20 июня по начало августа кризис носил в основном психологический характер, то сейчас ситуация принципиально иная: августовские атаки на НПЗ показали, что меры по усилению их противовоздушной обороны не были достаточно полными. Значит, прогноз автора Naked Science от 19 июля о том, что острая фаза кризиса закончится до конца лета, был частично неверным.

[miniorange_social_login]