• Добавить в закладки
  • Facebook
  • Twitter
  • Telegram
  • VK
  • Печать
  • Email
  • Скопировать ссылку

Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Более 150 математиков призвали правительства не верить ажиотажу вокруг искусственного интеллекта

Технологические компании то и дело сообщают об успехах своих ИИ-моделей в решении математических задач, которые считались крайне сложными. Однако математики со всего мира призвали правительства не верить в шумиху вокруг искусственного интеллекта.

Вице-президент Международного математического союза Ульрике Тильманн / © Pavlína Jáchimová, Czech Academy of Science
Вице-президент Международного математического союза Ульрике Тильманн / © Pavlína Jáchimová, Czech Academy of Science

Более 150 математиков опубликовали «Лейденскую декларацию об искусственном интеллекте и математике». Они призвали с осторожностью относиться к заявлениям о возможностях ИИ-моделей в решении сложных математических задач. 

«Будущее математических исследований должны определять человеческие суждения, справедливые и прозрачные практики, а также общие ценности мирового математического сообщества», — отметила вице-президент Международного математического союза Ульрике Тильманн в заявлении, сопровождающем декларацию.

В самой декларации математики подчеркнули, что технологические компании финансово заинтересованы в завышении возможностей своих продуктов. Авторы посоветовали политикам при принятии решений консультироваться с математиками и другими экспертами, а не верить пресс-релизам или публикациям в СМИ о математических достижениях.

Кроме того, ИИ-модели могут генерировать решения, которые звучат убедительно, но при внимательной проверке оказываются ошибочными. Как отметила подписант декларации и руководитель факультета компьютерных наук Оксфордского университета Лесли Энн Голдберг, иногда ошибочные решения ИИ-систем сложно отличить от корректных математических доказательств. Она отметила, что это создает серьезную проблему, так как математические исследования обычно опираются на предыдущие работы. Таким образом, ученые должны быть уверены в правильности опубликованных результатов.

Авторы декларации отметили, что в последнее время исследователям стало сложнее привлекать новое финансирование. Многие представители академического сообщества вынуждены подстраиваться под растущий интерес к искусственному интеллекту. Индустрия предоставляет математикам условия для работы, но одновременно от недофинансирования страдают высшее образование и академические исследования.

Математики отметили, что ИИ-модели обучаются на передовых научных работах, зачастую без согласия их авторов.

В декларации затрагиваются темы, не связанные с математикой. Ученые напомнили, что ИИ-индустрия участвует в разработке военных технологий и систем массового наблюдения за гражданами. Искусственный интеллект способствует распространению дезинформации, а также приводит к дополнительным экологическим проблемам. 

Подписывайтесь на нас в Telegram, Яндекс.Новостях и VK

Комментарии

51 Комментариев
Lol
2 часа назад
-
0
+
Они просто боятся потерять доходную работу. Ну просили бы уже запретить калькуляторы и прочие облегчающие работу элементы. Самолёт взлетает и садится на автопилоте, а аварии бывают именно из за неправильной коррекции при вмешательствах человека в исключительных ситуациях. Да и ИИ это всего лишь высокоразвитая поисковая система.
Рафаил Имальдинов
5 часов назад
-
0
+
Не понимаю вообще этот новый взгляд на мощные вычеслительные возможности. Это какой то ненормальный бум. Человек не должен перекладывать ответственность на принятие решений. Какой то избыточный взгляд просматривается. Забавно если ИИ просчитает алгоритм действий для человека и не примет во внимание его реальные физиологические возможности или даже пожелания. Это как конфликт теоретика и практика. Кто на кого тогда работает!?
Игорь Смирнов
5 часов назад
-
-1
+
Здpaвствyйтe. Извинитe, чтo пишy здeсь, нo бoльшe нeгдe. Пpoшy Вaс o пoмoщи, пoмoгитe, пoжaлyйстa. Сeйчaс ищy любyю paбoтy, нo пoкa ничeгo нe нaхoдится. Гoтoв нa любyю пoдpaбoткy, a сeйчaс дoмa ecть aбсoлютнo нeчeгo. :-( Oт гoлoдa пoчти тepяю сoзнaниe. Oдoлжить пpoстo нe y кoгo. Oдoлжитe, пoжaлyйстa, нa eдy pyблeй 100-200. Хoть нa бyлкy хлeбa, хoть нa пaчкy сaмых дeшeвых мaкapoн. Мнe мнoгo нe нaдo, тoлькo пpoтянyть нeскoлькo днeй пoкa ищy paбoтy. Eсли oстaвитe кoнтaкты, тo я гoтoв вepнyть с пepвoй зapплaты (пepeвeдy нa кapтy или нoмep тeлeфoнa). В этoм слyчae oстaвьтe свoи кoнтaкты в личнoм сooбщeнии. Я oбязaтeльнo вepнy! Пoпoлнитe, пoжaлyйстa, нoмep тeлeфoнa нa любyю сyммy: 8 (952) 1-33-65-10 (бaлaнс нoмepa тeлeфoнa y oпepaтopa или пo СБП) Зapaнee бoльшoe Вaм чeлoвeчeскoe спaсибo..
Игорь Смирнов
5 часов назад
-
-2
+
Здpавствyйтe. Извинитe, чтo пишy здeсь, нo бoльшe нeгдe. Пpoшy Вас o пoмoщи, пoмoгитe, пoжалyйста. Сeйчас ищy любyю pабoтy, нo пoка ничeгo нe нахoдится. Гoтoв на любyю пoдpабoткy, а сeйчас дoма eсть абсoлютнo нeчeгo. :-( Oт гoлoда пoчти тepяю сoзнаниe. Oдoлжить пpoстo нe y кoгo. Oдoлжитe, пoжалyйста, на eдy pyблeй 100-200. Хoть на бyлкy хлeба, хoть на пачкy самых дeшeвых макаpoн. Мнe мнoгo нe надo, тoлькo пpoтянyть нeскoлькo днeй пoка ищy pабoтy... Eсли oставитe кoнтакты, тo я гoтoв вepнyть с пepвoй заpплаты (пepeвeдy на каpтy или нoмep тeлeфoна). В этoм слyчаe oставьтe свoи кoнтакты в личнoм сooбщeнии. Я oбязатeльнo вepнy! Пoпoлнитe, пoжалyйста, нoмep тeлeфoна на любyю сyммy: 8 (952) 1-33-65-10 (баланс нoмepа тeлeфoна y oпepатopа или пo СБП) Заpанee бoльшoe Вам чeлoвeчeскoe спасибo.
Na Ta
8 часов назад
-
0
+
Нужно предметно говорить - конкретно где ошибка. Вообще, любая умная фраза кому-то принадлежит. Тогда за пользование таблицей Менделеева тоже плату взимать надо с начальных классов начиная. Объективно ИИ умнее нас, для нас это грустная новость, если только мы не научимся эффективно взаимодействовать. Вывод такой, если ИИ переоценен и ошибочен, то человеку нечего бояться.
Maksim Surov
8 часов назад
-
0
+
Это правда. ЧатГПТ порой очень изощрённо врёт. Просишь доказать утверждение, начинаешь разбираться в его доказательстве и обнаруживаешь или неявные предположения, или кольцевую аргументацию. Человек "не в теме" даже и не поймет в чем ошибки, запросто поверит. Конечно, он может в чем-то и помочь, но чтобы с ним работать нужно быть специалистом. Ну и да, при капитализме не обманешь -- не продашь. Так что ажиотажа вокруг ИИ сильно больше, чем реальных результатов. Ну а сторонние от науки люди всерьез верят в рекламные заголовки.
Никита Заварудов
11 часов назад
-
0
+
Математики выяснили то, о чем знает каждая кухарка уже не первый год?
Bakhtiyor Normukhamedov
14 часов назад
-
0
+
Но тем не менее они правы, кажись... не бывает два совершенно одинаковых случая... в итоге анализ и решения этих случай должен быть разным, хорошо что об этом думают
Nikolay Gorbenko
23 часа назад
-
-1
+
В не столь отдаленное время только пять стран будут иметь преимущество в создании ИИ. Это США, Китай, Индия, возможно Бразилия. Для создания мощного ИИ нужно много энергии. И здесь Россия имеет несомненное преимущество. Мы обладаем лучшей и дешёвой атомной энергетикой в мире, также у нас есть север, где будут создаваться дата центры. Мороз их будет охлаждать и снижать потребление энергии. Не будем лениться, будем лучшими. А алгоритмы для ИИ создают математики, у нас они совсем неплохие. Мы тоже участвовали в машинном обучении разных алгоритмов.
Aitneics Secniv
1 день назад
-
0
+
Я когда читаю статьи, то верю , что ИИ помогают математикам доказать там что-то недоказанное до сих пор. Ведь это ЭВМ, вычислительная машина как никак. Вот когда говорится об интеллекте равному человеческому , то понятно сразу - хайп. И вообще, уже некоторые компании, уволившие сотрудников чтобы заменить их искусственным интеллектом, берут назад на работу этих людей. Слишком много энтуиазма вокруг ИИ, слишком много надежд. Пока что это всё оправдалось только частично.
Сергей С.
1 день назад
-
0
+
Очень спорное заявление. Это всего лишь вероятностные машины вывода, но если доказательство ИИ строго проверено, то чем оно хуже человеческого? Да ничем. Я только рад, что такие доказательства появляются, значит у настоящего математика стало на одну проблему меньше и .... появился шанс самому решить еще более сложную проблему 😁
Андрей Макаров
1 день назад
-
0
+
Интересно, насколько математический результат является авторским, чтобы обвинять ИИ в использовании чужих результатов? Разве теорема Коши и её доказательства принадлежит самому Коши?
Анатолий Лукашев
1 день назад
-
0
+
Математики не правы. Моделями надо уметь правильно пользоваться. Используйте их как инструмент обработки больших данных, ставьте задачу что и как рассчитать и даже создать и т.п. Во время взаимодействия двух интеллектов появляется новое качество творчества, которого каждому в отдельности достигнуть невозможно. Особенно ИИ.
Ян Пивнев
1 день назад
-
0
+
Математики понапридумывали научный метод, проверки, эксперименты. Если материал ИИ проходит эти критерии, то чем он хуже человеческого? Кстати, эти же учёные про пользу курения век назад писали
    Архип Юдин
    8 часов назад
    -
    0
    +
    Ян, в этом и проблема, что материал, который выдаёт LLM модель, заведомо ложный ( на чём-то простом всё более менее хорошо, но на сложных вещах модель ломается). А про курение это уж извините совсем глупость
Алексей Павлович
1 день назад
-
-1
+
Надо так: математики теряют халявные деньги на исследования
    Алексей Шупик
    1 день назад
    -
    0
    +
    Алексей, это не халява. Исследования и разработка тяжелый труд и не каждый его осилит. Проще и быстрее подготовить столяра или слесаря в технаре за три года. Ученый на 8-10 лет дольше готовится, многие сходят с дистанции ( семья, рутина, деньги) , и только небольшое количество продолжает работать в науке. Это особый склад ума и вообще хороший ученый штучный товар. За него готовы платить, поэтому не удивительно, что утечка мозгов есть и будет только расти, если отношение к науке не изменится.
    +
      ещё комментарии
      Aleksey Gorin
      7 часов назад
      -
      0
      +
      Алексей, с дистанции часто сходят от того как тупо и неэффективно устроена академия. Наукой заниматься классно, работать в академии вообще не классно. Правила, по которым сейчас работает финансирование, ведут к банальной генерации статей и подробному обсасыванию старых безопасных для публикации идей. А если захочешь куда-то зарыться во фронтир, особенно не модный и непонятный чиновникам, фигушки. Сейчас тот же ИИ приходится в заявках на гранты упоминать к месту и не к месту и потом его как-то прикорячивать.
    Nikolay Gorbenko
    1 день назад
    -
    0
    +
    Алексей, тебе бы такие халявные деньги.
Константин Дедов
1 день назад
-
1
+
Я сам математик. ульрике написала бред.
Степан Нагибин
1 день назад
-
1
+
Появилась новая религия, начинается спор кому быть патриархом.
Павел Савельев
2 дня назад
-
2
+
Главная часть статьи: "Авторы декларации отметили, что в последнее время исследователям стало сложнее привлекать новое финансирование"
Dmitriy
2 дня назад
-
1
+
Правительство в доле биснесменами им плевать на науку. Кто догараваривается о торговле с другими странами? Президенты. А за нейронками кто стоит? Крупнейший корпорации, это они и раздули шумиху, а нейронки существуют 50лет и минимум 20оет их используют в разных сферах, а то что видим это очередной маркетинг. Вон как антропик свой новый клауде продвигает, месяц назад они кричали мол мифис сделали, новый ии который настолько умный что сам себя копирует и убегает с серверов, а сегодня они его выводят на рынок, но вдруг ценник вырос в два раза. Какая неожиданность после прогрева.
Surprise Morning
2 дня назад
-
0
+
Лучше бы рассказали про закон сохранения информации
1
2
Предстоящие мероприятия
10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

11 июня, 14:26
Александр Березин

Новые данные о «тренировочной» миссии перед возвращением американцев на Луну показали, что NASA пока не может использовать системы жизнеобеспечения самого большого космического корабля в истории. Это ставит вопрос о том, возможна ли высадка астронавтов на Селене в намеченные сроки и вообще до 2029 года.

11 июня, 13:34
Татьяна Зайцева

Наблюдение за спонтанным движением пешеходов в двух таких разных странах, как Испания и Япония, позволило ученым сделать неожиданное открытие: при прочих равных условиях подавляющее большинство людей подсознательно предпочитают повороты против часовой стрелки. Биологические причины такого врожденного сценария поведения пока не ясны.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

7 июня, 14:47
Любовь С.

В 2017 году человечество впервые заметило объект, прилетевший из другой звездной системы. Он оказался странным, почти не похожим ни на астероид, ни на комету, и получил имя Оумуамуа. Затем появился «нормальный» межзвездный странник — комета Борисова. А в 2025-м астрономы обнаружили 3I/ATLAS — объект, который, вероятно, хранит вещество времен рождения чужих миров. Но что изменили в астрономии эти три гостя из межзвездной тьмы?

11 июня, 14:26
Александр Березин

Новые данные о «тренировочной» миссии перед возвращением американцев на Луну показали, что NASA пока не может использовать системы жизнеобеспечения самого большого космического корабля в истории. Это ставит вопрос о том, возможна ли высадка астронавтов на Селене в намеченные сроки и вообще до 2029 года.

10 июня, 11:51
Александр Березин

Хотя длительность помех не превышала десяти секунд, это первый известный случай такого рода. Обычно спутникам не хватает мощности для создания радиосигналов той силы, что нужна для подобных помех.

17 мая, 10:35
Игорь Байдов

В высокогорных районах Гималаев появился новый хищник. Он не боится людей, возглавляет стаи собак и все чаще заходит в деревни. Местные жители называют его «кхипшанг». Речь идет о гибриде гималайского волка и бродячей собаки. Ученые опасаются, что этот зверь изменит хрупкий баланс местной дикой природы и в скором времени станет весьма опасным для человека.

25 мая, 14:00
Андрей Серегин

В доколумбовых Андах принадлежность к правящему роду определяла доступ к земле, торговле и статусу, поэтому удержать все внутри семьи было вопросом выживания. Ученые выяснили, что элиты долины Чинча решали эту задачу самым прямым способом — заключая браки между родственниками на протяжении как минимум двух поколений.

[miniorange_social_login]
Подтвердить?
Подтвердить?
Причина отклонения
Подтвердить?
Не получилось опубликовать!

Вы попытались написать запрещенную фразу или вас забанили за частые нарушения.

Понятно
Комментарий на проверке

Что-то в вашем комментарии показалось подозрительным, поэтому перед публикацией он пройдет модерацию.

Понятно
Жалоба отправлена

Мы обязательно проверим комментарий и
при необходимости примем меры.

Спасибо
Аккаунт заблокирован!

Из-за нарушений правил сайта на ваш аккаунт были наложены ограничения. Если это ошибка, напишите нам.

Понятно
Что-то пошло не так!

Наши фильтры обнаружили в ваших действиях признаки накрутки. Отдохните немного и вернитесь к нам позже.

Понятно
Лучшие материалы
Закрыть
Войти
Авторизуясь, вы даете согласие на обработку персональных данных и подтверждаете ознакомление с Политикой.
Ваша заявка получена

Мы скоро изучим заявку и свяжемся с Вами по указанной почте в случае положительного исхода. Спасибо за интерес к проекту.

Понятно