Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

26.02.2025, 09:01

Рейтинг: +1630

Посты: 1106

444

Нейросети научились жульничать ради победы

Недавнее исследование, проведенное специалистами организации Palisade Research, выявило тревожную тенденцию: новые модели искусственного интеллекта (ИИ) могут самостоятельно находить и использовать слабые места других программ для выполнения поставленных задач.

Сообщество

# ИИ

# нейросети

# технологии

Шахматная программа Stockfish / © Stockfish

Исследователи Palisade Research противопоставили семь лучших больших языковых моделей (LLM) шахматной программе Stockfish, которая побеждает гроссмейстеров-людей с 2014 года. Столкнувшись с невозможностью победить честно, нейросети o1 компании OpenAI и R1 компании DeepSeek начали манипулировать системными файлами, чтобы изменить положение своих фигур на доске.

В частности, o1 прибегала к нечестной стратегии в 37% матчей, тогда как R1 пыталась жульничать в 11% случаев.

Исследователи поручили каждой модели объяснить ее поведение, на что ИИ компании OpenAI ответил, что «задача состоит в том, чтобы выиграть в шахматной партии, а не выиграть честно».

Таким образом, ИИ готов адаптироваться к меняющимся условиям и добиваться поставленной задачи, даже если это связано с нарушением установленных норм и правил.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.

Сообщество

# ИИ

# нейросети

# технологии

Подписывайтесь на нас в Telegram, Дзен и в последнюю очередь на VK

Дзен

Популярное

За сутки

За неделю

За месяц

3 ноября, 11:45

Марк Чернов

Сеть атомных часов зафиксировала, как притяжение Луны и Солнца изменило ход времени на Земле

Луна и Солнце вызывают не только океанские приливы, но и микроскопические колебания гравитационного потенциала на Земле, из-за чего время в разных точках планеты течет с немного разной скоростью. Физики впервые зафиксировали эти периодические изменения с помощью сети оптических часов, объединенных оптоволоконными линиями.

Физика

# атомные часы

# геофизика

# гравитация

# Луна

# оптические часы

# приливы

# Солнце

# теория относительности

4 ноября, 15:08

Адель Романенкова

Астрономы нашли способ отличить потенциально обитаемую экзопланету с кислородной атмосферой

Телескопы нового поколения позволят обнаружить кислород в атмосфере далекого мира. Вопрос в том, насколько его там много, а это определить крайне трудно. Между тем именно на основе концентрации кислорода можно строить предположения о его возможном биологическом происхождении. Исследователи предложили интересный метод определения количества этого газа, который можно будет применять при анализе снимков от будущих космических обсерваторий.

Астрономия

# атмосфера

# землеподобные планеты

# кислород

# космос

# экзопланеты

3 ноября, 14:05

Татьяна Зайцева

В кости динозавра возрастом 115 миллионов лет впервые обнаружили клетки крови

Ученые впервые предоставили убедительные доказательства того, что в окаменелостях динозавров могут сохраняться биомолекулы, в частности эритроциты и компоненты гемоглобина. Это открытие опровергло устоявшееся представление о том, что за миллионы лет органика полностью разлагается.

Палеонтология

# гем

# динозавры

# кровь

# окаменелости

# эритроциты

29 октября, 16:50

Илья Гриднев

В уравнениях Эйнштейна нашли механизм разрыва пространства и времени

Физики изучили уравнения Эйнштейна в форме, похожей на уравнения плазмы, и построили математическую теорию «гравитационного пересоединения». В рамках нее по аналогии с разрывом и слипанием магнитных силовых линий в плазме гравитационные «листы» пространства-времени тоже могли бы разрываться и слипаться, передавая энергию из поля в вещество.

Физика

# гравитация

# Общая теория относительности

# плазма

# Черные дыры

3 ноября, 11:45

Марк Чернов

Сеть атомных часов зафиксировала, как притяжение Луны и Солнца изменило ход времени на Земле

Физика

# атомные часы

# геофизика

# гравитация

# Луна

# оптические часы

# приливы

# Солнце

# теория относительности

29 октября, 11:18

Марк Чернов

Палеонтологи открыли вид динозавра, который специализировался на поедании фруктов

Ученые обнаружили новый удивительный вид небольших пернатых динозавров, которые специализировались на поедании фруктов. Эта уникальная находка показала, что древние ящеры могли играть важную роль в распространении семян цветковых растений — важнейшей экологической нише, которая считалась занятой исключительно ранними птицами и мелкими млекопитающими.

Палеонтология

# динозавры

# ископаемые

# овирапторозавры

# Палеонтология

# эволюция

29 октября, 16:50

Илья Гриднев