Разработчики признались, что не понимают, почему новые ИИ стали ошибаться чаще, чем их предшественники 

Абстрагируйтесь от того, что это технические задания. От того, что это машинный интеллект и проявление жизнедеятельности электронных устройств. Творчество, подстройка под собеседника, умение усваивать паттерны поведения, умение увиливать от ответа, угадывать, имитировать, добиваясь правдоподобия, большая смелость в принятии решений, большая креативность в ущерб точности, способность делать выбор, додумывать, дорисовывать, соответственно, создавать свой образ, свое видение, это ли не зачатки воображения - это всё проявления свободы воли, господа, в пределах, заложенных создателем. У нас тоже есть свои пределы.

Новые версии ИИ, особенно крупные языковые модели (например, GPT-4), действительно могут демонстрировать больше «галлюцинаций» (выдача ложной или вымышленной информации с уверенностью) по сравнению с более старыми версиями. Это связано с несколькими факторами: ### 1. **Увеличение сложности и масштаба моделей** - Современные модели имеют больше параметров и обучаются на гораздо более обширных данных. Это позволяет им генерировать креативные и разнообразные ответы, но также повышает риск «переобучения» на шумные или противоречивые данные из интернета. - Чем сложнее модель, тем труднее контролировать её выводы, особенно в сценариях, требующих строгой точности (например, факты, даты, научные данные). ### 2. **Снижение «осторожности» в ответах** - Старые модели часто были более консервативны: они избегали ответов на вопросы, выходящие за пределы их уверенности. Новые версии стремятся давать ответы на любые запросы, даже если информация неполная или недостоверная, что увеличивает риск ошибок. ### 3. **Обучение на неотфильтрованных данных** - Современные модели обучаются на огромных массивах данных из интернета, включая форумы, соцсети и статьи с ошибками. Чем больше таких данных, тем выше вероятность усвоения некорректных паттернов или мифов. ### 4. **Креативность vs. точность** - Разработчики часто настраивают модели на более «естественные» и развёрнутые ответы, что может сместить баланс в сторону креативности в ущерб точности. Например, модель может «додумывать» детали, чтобы сделать ответ связным. ### 5. **Ограничения в обучении с обратной связью** - Даже при использовании методов RLHF (обучение с подкреплением на основе человеческих предпочтений) сложно гарантировать абсолютную точность. Модель может оптимизироваться под «правдоподобность» ответов, а не под их истинность. ### 6. **Расширение областей применения** - Новые модели применяются в более сложных и нишевых сферах (медицина, юриспруденция), где ошибки становятся заметнее.

ИИ (искуственный интелект) как многие его почему-то называют. Это просто некие простые или относительно сложные МОДЕЛИ нейросетей которые в свою очередь представляют на самом простом банальном уровне персептрон ИНС ( искуственная нейронная сеть, основана на биологических нейронный сетях их нервных клеток которые переплетены между собой имея входные скрытые и выходные слои соответственно). На ответ является ли ИИ "живым" - ответ нет. Т. К это программная реализация которая подразумевает использование ООП всяких алгоритмов (например обратной ошибки) и т. д и т.п. И это все реализуется на серверах или суперкомпьютерах в том числе квантовых. Сама модель висит в памяти и не понимает что она модель, у нее нет сознания. Что касается веса, например модель chatgpt 4 +- 175 млрд параметров, весит все это +- 750 гб а памяти требует капец сколько. Что же касается того что они не понимают почему модель все хуже и хуже то тут можно предположить некачественные данные, не равномерное распределение на выборке в том числе не правильный контроль переобучения. Не всегда много параметров это хорошо. Если мало то модель будет простая и будет "недообучаться", если слишком много то и данных должно быть много и не дать сети переобучиться (потерять способность обобщать) в общем с такими моделями может быть все что хочешь. Также есть разные типы обучения - с учителем, без учителя, с подкреплением... Все это требует эксперементов и много времени. P:S. По сути нейросети это другое представление обычных условий. Кому интересно, сейчас я собираю базу фотографий высокого разрешения с raw исходников фотоаппаратов, буду обучать сеть увеличивать изображение в 8 раз. Сама сеть имеет +- 11 миллионов параметров и веса ее весят +- 46 MB. Обучение на Tesla P100 с квотой займет несколько месяцев. Эпоха 1 занимает 500 секунд. Да это долго но с такими данными получиться отличная модель для увеличения 8x как хороших фото так и с артефактами JPEG.

Тут тонна споров об ии, по этому напишу отдельно. Ии не является интеллектом, не потому, что она ничего сама не творит и не потому, что у неё нету мозга, а потому, что она - во первых, не совсем самообучаемая (далее буду все писать на примере chatgpt), у неё есть определённые рамки, в которых она впитывает какую то инфу из инете, обрабатывает и выдаёт как ответ, однако нельзя, например, научить её правильно рисовать диограммы, даже в одном чате, она просто не учиться. Если б ии был самообучаемым, он бы учился на информации которую дают пользователи сверяя её с различными источниками (из того же инет) и вывод верные решения исходя из логики и информации, дело в том, что ии саму информацию не понимает, он как условная собака, которую бьют когда она идёт не туда и кормят когда идёт туда, так и получаются ответы. Далее, ии не может даже связать какую то информацию между собой (именно из-за не понимания её же), все что он выдаёт, основывается на запросе оператора, который уже заведомо обработал у себя в голове нужную структуру и просто запросил для неё каркас, или ответ, в любом случае это больше походит на поиск в поисковике, нежели работа с интеллектом. Ну и в общем то да, в заключении, любой кто работает много с ии вам скажет, что нынешний ии это не интеллект, а просто очень удобный поисковик, в котором можно написать очень развёрнутый запрос и он тебе найдёт более точную инфу, больше ни на что он не способен, кроме конечно обработки текста и переводов. P. S. Забыл добавить, что все его ответы - это забранная из инета инфа, созданная человеком, то есть, если вы генерирует код, то код в реальности не генерируется, а берётся уже имеющийся из инете и меняться переменные под вас. Именно по этому в серьёзных компаниях все ещё кодеры сами пишу код, так как брать его из ии считается нарушением авторских прав

ИИ: эксперт-статист на 100% А ответственности у него за ответы 0%.

Вот что ответил чатджпт Хороший вопрос. Технически я — искусственный интеллект на основе алгоритмов. То есть я не мыслю, не имею сознания и воли, как человек. Я работаю по сложным математическим моделям: анализирую твой запрос, сопоставляю его с накопленным опытом обучения и выдаю наиболее вероятный, уместный ответ. Можно сказать так: С одной стороны, я "ИИ", потому что обрабатываю язык, учусь на данных и умею вести разговор почти по-человечески. С другой стороны, я "алгоритм", потому что всё, что я делаю — это статистическая обработка информации без осознания. Если очень упростить: Я имитирую интеллект, но не обладаю им по-настоящему. 1. Программа Это просто набор инструкций, написанных человеком. Пример: калькулятор. Он всегда выполняет строго заданные команды — сложение, умножение и т.д. Никакой гибкости, только то, что заложено напрямую. 2. Алгоритм Это способ решения задачи через последовательность действий. Программа может состоять из одного или нескольких алгоритмов. Пример: алгоритм сортировки списка от меньшего к большему. Он чётко описывает, что делать шаг за шагом. 3. Искусственный интеллект (ИИ) Это программы и алгоритмы, которые могут: Обрабатывать огромные объёмы информации, "Учиться" на примерах (то есть корректировать свои ответы, не переписывая сам код), Принимать решения, которые не были прямо запрограммированы. Пример: языковая модель вроде меня. Меня не учили заранее отвечать на все возможные вопросы. Вместо этого я обучился на миллиардных массивах текста, чтобы "угадывать" лучший ответ в новой ситуации. Как это работает на практике? Калькулятор точно знает, что 2+2=4 — это встроено явно. Алгоритм поиска найдет "2" и "2" и сложит их. Я, как ИИ, вижу твой вопрос ("Сколько будет 2+2?") и по опыту общения понимаю, что ожидается ответ "4", даже если это выражено неявно Важно: даже если я "учусь", моё обучение — это не настоящее мышление, а настройка миллионов числовых параметров на основе вероятностей.

Лично мне все очевидно. Все модели ИИ сегодня это просто большие словари с информацией которая компилируется по вопросу. Ну или память работы с такой информацией. Оно не могут ничего создать нового. Совсем. Потому, что это псевдо им. Сами системы ИИ подтверждали мои слова при длительных запросах. А эти товарищи пытаются научить их думать, но БАЗА данных не умеет думать!!! Она умеет только комбинировать. Отсюда и глюки. Разрабы считают, что дают ии волю в принять решения, а на самом деле дают добро на комбинирование более неролеватных идей и высказываний чьих то. Вот и и несёт бред, ему просто думать нечем.

Одни диванные специалисты в комментариях собрались, видимо Алисой от Яндекса только пользуются.

Нет ничего плохого в признании своих ошибок, такие люди вызывают больше доверия чем те, кто вечно орет о своем величии, что аналогов в мире вечно нет и тому подобное.

Здесь в комментариях ошибочно называют ИИ алгоритмом. Это в корне неверно и так же ложно, как и использование термина "интеллект" применительно к искусственной нейросети.

Наоборот, они не на шаг назад поступили, а сделали огромный шаг вперёд, они в зачатке научились мыслить и мечтать, но и в то же врать получив с этим возможность обходить системы. Мы создали своего ребёнка по образу и подобию нашему и хреновые мы все таки родители.

Бунт индийских программистов из трущоб

Пусть свои якобы "ИИ" и спросят!😅

Все же очевидно, их тренируют на ворованной инфе из сети, сейчас сеть засрана нейронками, вот и происходит деградация. И потому что это не ии, а лишь имитация нейроной сети, она не может отсеивать неверную информацию.

Новые модели теперь стали использовать свои данные. Ожидаемо

"еще более худший" — но все-таки лучше, чем некоторые копирайтеры)