• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Более 150 математиков призвали правительства не верить ажиотажу вокруг искусственного интеллекта

Технологические компании то и дело сообщают об успехах своих ИИ-моделей в решении математических задач, которые считались крайне сложными. Однако математики со всего мира призвали правительства не верить в шумиху вокруг искусственного интеллекта.

Вице-президент Международного математического союза Ульрике Тильманн / © Pavlína Jáchimová, Czech Academy of Science
Вице-президент Международного математического союза Ульрике Тильманн / © Pavlína Jáchimová, Czech Academy of Science

Более 150 математиков опубликовали «Лейденскую декларацию об искусственном интеллекте и математике». Они призвали с осторожностью относиться к заявлениям о возможностях ИИ-моделей в решении сложных математических задач. 

«Будущее математических исследований должны определять человеческие суждения, справедливые и прозрачные практики, а также общие ценности мирового математического сообщества», — отметила вице-президент Международного математического союза Ульрике Тильманн в заявлении, сопровождающем декларацию.

В самой декларации математики подчеркнули, что технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Авторы посоветовали политикам при принятии решений консультироваться с математиками и другими экспертами, а не верить пресс-релизам или публикациям в СМИ о математических достижениях.

Кроме того, ИИ-модели могут генерировать решения, которые звучат убедительно, но при внимательной проверке оказываются ошибочными. Как отметила подписант декларации и руководитель факультета компьютерных наук Оксфордского университета Лесли Энн Голдберг, иногда ошибочные решения ИИ-систем сложно отличить от корректных математических доказательств. Она отметила, что это создает серьезную проблему, так как математические исследования обычно опираются на предыдущие работы. Таким образом, ученые должны быть уверены в правильности опубликованных результатов.

Авторы декларации отметили, что в последнее время исследователям стало сложнее привлекать новое финансирование. Многие представители академического сообщества вынуждены подстраиваться под растущий интерес к искусственному интеллекту. Индустрия предоставляет математикам условия для работы, но одновременно от недофинансирования страдают высшее образование и академические исследования.

Математики отметили, что ИИ-модели обучаются на передовых научных работах, зачастую без согласия их авторов.

В декларации затрагиваются темы, не связанные с математикой. Ученые напомнили, что ИИ-индустрия участвует в разработке военных технологий и систем массового наблюдения за гражданами. Искусственный интеллект способствует распространению дезинформации, а также приводит к дополнительным экологическим проблемам. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

58 Комментариев
Ки Хун
1 час назад
-
0
+
Это старая школа математиков консервативна, и не хочет признавать ИИ. Тем не менее, несмотря на сложность технологий ИИ, матаппарат других задач намного сложнее. Он разнообразен и чудовищно сложен. ИИ гораздо проще и универсальнее, в этом его сила.
Юрий Романов
2 часа назад
-
0
+
Ничего страшного в этом нет И. И. решает а математики проверяют если нужны поправки их легко будет внести и всё пересчитать заново. Как правило в математике уже давно никто не считает вручную , все вычисления делают при помощи ЭВМ. Закладывают математическую программу и производят вычисления. Если И. И. сам подбирает программы для вычисления то это хорошее подспорье для ученых не нужно тратить много времени на способы решения .
Verstarker Prostahl
4 часа назад
-
0
+
"Будущее поколение за дивиди!" Была такая реклама.)))
Verstarker Prostahl
4 часа назад
-
0
+
Примеры доказательств и решений от ИИ в студию! А так это просто пустой пиар корявой технологии, посмотрите рекламу производства виниловых вертушек JBL, особенно где токарный станок, это что-то с чем-то, а еще свернутый в квадрат тонарм!
Соня
4 часа назад
-
0
+
Да уж, сейчас еда которую не надо самому готовить, ИИ чтобы не надо было думать и накладные штуки на тело чтобы не ходить в спортзал Сами себе жизнь усложнили, как раз благодаря таким "прекрасным" вещам тяжелее найти работу, свежие продукты дороже и вообще через лет 10 может работники никому не надо будут? А жить на что? Воровать? И так денег нет ещё и этот ИИ
BARRIS1971
6 часов назад
-
0
+
"Математики отметили, что ИИ-модели обучаются на передовых научных работах, зачастую без согласия их авторов." - очень странное заявление. Сами математики обучаются на тех же передовых научных работах и ничего, всё ок. Опять эти попытки остановить прогресс
Lol
8 часов назад
-
0
+
Они просто боятся потерять доходную работу. Ну просили бы уже запретить калькуляторы и прочие облегчающие работу элементы. Самолёт взлетает и садится на автопилоте, а аварии бывают именно из за неправильной коррекции при вмешательствах человека в исключительных ситуациях. Да и ИИ это всего лишь высокоразвитая поисковая система.
Рафаил Имальдинов
11 часов назад
-
0
+
Не понимаю вообще этот новый взгляд на мощные вычеслительные возможности. Это какой то ненормальный бум. Человек не должен перекладывать ответственность на принятие решений. Какой то избыточный взгляд просматривается. Забавно если ИИ просчитает алгоритм действий для человека и не примет во внимание его реальные физиологические возможности или даже пожелания. Это как конфликт теоретика и практика. Кто на кого тогда работает!?
Игорь Смирнов
11 часов назад
-
-2
+
Комментарий удален пользователем или модератором...
Na Ta
14 часов назад
-
0
+
Нужно предметно говорить - конкретно где ошибка. Вообще, любая умная фраза кому-то принадлежит. Тогда за пользование таблицей Менделеева тоже плату взимать надо с начальных классов начиная. Объективно ИИ умнее нас, для нас это грустная новость, если только мы не научимся эффективно взаимодействовать. Вывод такой, если ИИ переоценен и ошибочен, то человеку нечего бояться.
Maksim Surov
14 часов назад
-
0
+
Это правда. ЧатГПТ порой очень изощрённо врёт. Просишь доказать утверждение, начинаешь разбираться в его доказательстве и обнаруживаешь или неявные предположения, или кольцевую аргументацию. Человек "не в теме" даже и не поймет в чем ошибки, запросто поверит. Конечно, он может в чем-то и помочь, но чтобы с ним работать нужно быть специалистом. Ну и да, при капитализме не обманешь -- не продашь. Так что ажиотажа вокруг ИИ сильно больше, чем реальных результатов. Ну а сторонние от науки люди всерьез верят в рекламные заголовки.
Никита Заварудов
17 часов назад
-
0
+
Математики выяснили то, о чем знает каждая кухарка уже не первый год?
Bakhtiyor Normukhamedov
20 часов назад
-
0
+
Но тем не менее они правы, кажись... не бывает два совершенно одинаковых случая... в итоге анализ и решения этих случай должен быть разным, хорошо что об этом думают
Nikolay Gorbenko
1 день назад
-
-1
+
В не столь отдаленное время только пять стран будут иметь преимущество в создании ИИ. Это США, Китай, Индия, возможно Бразилия. Для создания мощного ИИ нужно много энергии. И здесь Россия имеет несомненное преимущество. Мы обладаем лучшей и дешёвой атомной энергетикой в мире, также у нас есть север, где будут создаваться дата центры. Мороз их будет охлаждать и снижать потребление энергии. Не будем лениться, будем лучшими. А алгоритмы для ИИ создают математики, у нас они совсем неплохие. Мы тоже участвовали в машинном обучении разных алгоритмов.
Aitneics Secniv
1 день назад
-
0
+
Я когда читаю статьи, то верю , что ИИ помогают математикам доказать там что-то недоказанное до сих пор. Ведь это ЭВМ, вычислительная машина как никак. Вот когда говорится об интеллекте равному человеческому , то понятно сразу - хайп. И вообще, уже некоторые компании, уволившие сотрудников чтобы заменить их искусственным интеллектом, берут назад на работу этих людей. Слишком много энтуиазма вокруг ИИ, слишком много надежд. Пока что это всё оправдалось только частично.
Сергей С.
1 день назад
-
0
+
Очень спорное заявление. Это всего лишь вероятностные машины вывода, но если доказательство ИИ строго проверено, то чем оно хуже человеческого? Да ничем. Я только рад, что такие доказательства появляются, значит у настоящего математика стало на одну проблему меньше и .... появился шанс самому решить еще более сложную проблему 😁
Андрей Макаров
1 день назад
-
0
+
Интересно, насколько математический результат является авторским, чтобы обвинять ИИ в использовании чужих результатов? Разве теорема Коши и её доказательства принадлежит самому Коши?
Анатолий Лукашев
1 день назад
-
0
+
Математики не правы. Моделями надо уметь правильно пользоваться. Используйте их как инструмент обработки больших данных, ставьте задачу что и как рассчитать и даже создать и т.п. Во время взаимодействия двух интеллектов появляется новое качество творчества, которого каждому в отдельности достигнуть невозможно. Особенно ИИ.
Ян Пивнев
2 дня назад
-
0
+
Математики понапридумывали научный метод, проверки, эксперименты. Если материал ИИ проходит эти критерии, то чем он хуже человеческого? Кстати, эти же учёные про пользу курения век назад писали
    Архип Юдин
    15 часов назад
    -
    0
    +
    Ян, в этом и проблема, что материал, который выдаёт LLM модель, заведомо ложный ( на чём-то простом всё более менее хорошо, но на сложных вещах модель ломается). А про курение это уж извините совсем глупость
-
-1
+
Надо так: математики теряют халявные деньги на исследования
    Алексей Шупик
    2 дня назад
    -
    0
    +
    Алексей, это не халява. Исследования и разработка тяжелый труд и не каждый его осилит. Проще и быстрее подготовить столяра или слесаря в технаре за три года. Ученый на 8-10 лет дольше готовится, многие сходят с дистанции ( семья, рутина, деньги) , и только небольшое количество продолжает работать в науке. Это особый склад ума и вообще хороший ученый штучный товар. За него готовы платить, поэтому не удивительно, что утечка мозгов есть и будет только расти, если отношение к науке не изменится.
    +
      ещё комментарии
      Aleksey Gorin
      13 часов назад
      -
      0
      +
      Алексей, с дистанции часто сходят от того как тупо и неэффективно устроена академия. Наукой заниматься классно, работать в академии вообще не классно. Правила, по которым сейчас работает финансирование, ведут к банальной генерации статей и подробному обсасыванию старых безопасных для публикации идей. А если захочешь куда-то зарыться во фронтир, особенно не модный и непонятный чиновникам, фигушки. Сейчас тот же ИИ приходится в заявках на гранты упоминать к месту и не к месту и потом его как-то прикорячивать.
    Nikolay Gorbenko
    1 день назад
    -
    0
    +
    Алексей, тебе бы такие халявные деньги.
1
2
Предстоящие мероприятия
10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

11 июня, 14:26
Александр Березин

Новые данные о «тренировочной» миссии перед возвращением американцев на Луну показали, что NASA пока не может использовать системы жизнеобеспечения самого большого космического корабля в истории. Это ставит вопрос о том, возможна ли высадка астронавтов на Селене в намеченные сроки и вообще до 2029 года.

11 июня, 13:34
Татьяна Зайцева

Наблюдение за спонтанным движением пешеходов в двух таких разных странах, как Испания и Япония, позволило ученым сделать неожиданное открытие: при прочих равных условиях подавляющее большинство людей подсознательно предпочитают повороты против часовой стрелки. Биологические причины такого врожденного сценария поведения пока не ясны.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

7 июня, 14:47
Любовь С.

В 2017 году человечество впервые заметило объект, прилетевший из другой звездной системы. Он оказался странным, почти не похожим ни на астероид, ни на комету, и получил имя Оумуамуа. Затем появился «нормальный» межзвездный странник — комета Борисова. А в 2025-м астрономы обнаружили 3I/ATLAS — объект, который, вероятно, хранит вещество времен рождения чужих миров. Но что изменили в астрономии эти три гостя из межзвездной тьмы?

11 июня, 14:26
Александр Березин

Новые данные о «тренировочной» миссии перед возвращением американцев на Луну показали, что NASA пока не может использовать системы жизнеобеспечения самого большого космического корабля в истории. Это ставит вопрос о том, возможна ли высадка астронавтов на Селене в намеченные сроки и вообще до 2029 года.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно