Уведомления
Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии.
Авторизуясь, вы соглашаетесь с правилами пользования сайтом и даете согласие на обработку персональных данных.
Инженеры Google описали ключевой изъян машинного обучения, приводящий к ошибкам ИИ
Тема искусственного интеллекта в последние годы стала невероятно популярной. Однако, несмотря на все достижения в этой области, ИИ по-прежнему чаще человека ошибается практически в любом классе задач. Специалисты Google сформулировали один из ключевых недостатков важнейшего компонента создания искусственного интеллекта — машинного обучения — и предложили способ его компенсации.
Научная работа опубликована на портале arXiv. В ней описано понятие недостаточной детализации (underspecification) в машинном обучении (machine learning). Авторы указывают на то, как в привычном процессе обучения нейросетевых алгоритмов слишком часто возникают неочевидные поначалу аномалии. В результате обученный таким образом алгоритм будет выдавать непредсказуемые или ошибочные выводы.
По мнению команды специалистов из Google, проблема в следующем. Во время обучения алгоритма на некоем наборе данных искусственный интеллект может сделать не совсем то обобщение, которое считают необходимым или эффективным его создатели. И сам по себе этот факт не является чем-то негативным, наоборот — в этом и есть «сила» нейросетей. Но, тренируя алгоритм, программисты не учитывают и далеко не всегда могут знать, что именно он выбрал в качестве дополнительных критериев. В итоге, классифицируя результаты как точные и неточные, человек обучает ИИ не совсем тому, чему хотел.
Результатом подобного обучения могут стать непредсказуемые ошибки. Например, в эпидемиологии есть математическая модель, описывающая течение эпидемии. Она строится на ключевых параметрах: коэффициенте распространения инфекции (R0) и продолжительности времени, пока заболевший заразен (D). Теоретически даже на ранних стадиях пандемии можно проанализировать эти данные по нескольким случаям и предсказать ее ход. Это крайне важно для властей и медиков, которые будут иметь понимание, когда переполнятся больницы и в какой момент и как нужно реагировать на статистику.
Однако на практике обученный по массивам медицинских данных искусственный интеллект может выдавать разные предсказания. И выбор из них реалистичного — нетривиальная задача. Дело в том, что во время обучения алгоритм будет учитывать множество побочных параметров. Так же делают и люди, но они могут объяснить свои решения, а ИИ — нет. Таким образом, необходимо еще на стадии создания алгоритма и его обучения учитывать все больше параметров. В этот момент появляется второе ключевое ограничение.
Подобных второстепенных параметров может быть огромное количество, и далеко не все из них будут так же важны для человека, как для нейросети. Фактически предсказать только по результату (прогнозу) модели, на основании каких второстепенных факторов была достигнута нужная точность, невозможно. И тем более нельзя сходу оценить, как именно изменится работа алгоритма при других масштабах поступающих данных. Свои соображения авторы описываемой работы наглядно и подробно иллюстрируют четырьмя примерами, в которых ИИ либо традиционно считается более точным, чем человек, либо его использование предполагается наиболее перспективным. Речь о компьютерном зрении, распознавании медицинских изображений и речи , а также медицинских предсказаниях на основе статистики.
Однако не все так ужасно. Авторы работы предлагают методику стрессового тестирования искусственного интеллекта. По их мнению, можно ввести в процесс машинного обучения обязательные стресс-тесты на специально подготовленных данных. Они могут быть нарочно выходящими за рамки моделей или хорошо изученными экстремальными примерами из реальной жизни. В любом случае с их помощью будут сразу обнаружены основные аномалии алгоритма.
Несомненно, озвученные сотрудниками Google идеи не являются революционными и зачастую используются на практике. Но они еще не стали стандартом даже в самых критичных для нас областях применения ИИ. И, конечно, для многих профессионалов вышеописанная работа может выглядеть простой и очевидной. Тем не менее в ней от элементарных моделей до сложнейших симуляций показано влияние недостаточной детализации на результат. Кроме того, авторы работы собрали воедино идеи и выводы из колоссального количества публикаций на смежные темы. Это позволяет назвать ее отличным промежуточным итогом в развитии современных наработок в области ИИ.
Группа дизайнеров и инженеров из ряда именитых компаний под руководством не менее прославленного менеджера и энтузиаста из IBM создала передвижной дом для эскапистов XXI века. Конструкция под названием Jupe способна обеспечить уют и комфорт практически в любой точке мира (кроме холодного климата), а устанавливается за пару часов.
В московском аэропорту Жуковский произошло ЧП: за пределы взлетно-посадочной полосы выкатился новейший отечественный авиалайнер МС-21-300. Он проходил испытания, во время которых имитировали прерванный полет из-за отказа одного двигателя.
Россия подняла в небо группу из шести военно-транспортных самолетов Ан-124-100. Такие тренировки позволяют отработать переброску на большие расстояния личного состава воинских подразделений.
Россия подняла в небо группу из шести военно-транспортных самолетов Ан-124-100. Такие тренировки позволяют отработать переброску на большие расстояния личного состава воинских подразделений.
«Убить» Windows иконкой: обнаружен баг, повреждающий данные на диске при открытии любого типа файлов
Специалисты по информационной безопасности нашли пренеприятнейшую особенность ОС Windows 10. Ее штатный драйвер файловой системы NTFS при определенных условиях реагирует крайне деструктивным образом — критически повреждает главную файловую таблицу MFT. Вызвать такое его поведение можно огромным количеством способов: от создания подготовленной веб-страницы до отправки картинок, файлов и документов жертве.
Американский исследователь создал нейросеть, которая с точностью около 70% определяет политические убеждения человека, анализируя только его лицо. Ранее он уже сделал алгоритм, устанавливающий по фотографии сексуальную ориентацию. Оба этих эксперимента провели с целью опровергнуть так называемую новую френологию, а в итоге частично подтвердили псевдонаучные гипотезы.
В России приступили к летным испытаниям нового Ту-214. По имеющимся данным, речь идет о третьем и заключительном экземпляре Ту-214ПУ, изготовленном по контракту от 2017 года.
За последние полвека люди в России (и не только) стали слабее на десятки процентов. Судя по всему, с такой же скоростью они теряют интерес к сексу и становятся уязвимее к ряду болезней. Речь идет не просто о снижении мужественности мужчин и все более слабых женщинах — перед нами прямая угроза здоровью обоих полов. Попробуем разобраться, что о ней известно.
Попытки нашей страны создать замену сверхмассовому биплану советской эпохи терпят неудачи вот уже тридцать лет. Причина проста: кризис легкомоторной авиации в целом. Когда-то самая передовая часть авиастроения сегодня застряла на решениях большой древности — и без резкого изменения всей концепции "летающего такси" так и не увидит заметных результатов.
Природа она дура по большому счетуА природа по-Вашему, это что? Создатель, классная дама или процесс?
Эмоциональное окрашивание явлений весьма характерно для стадных животных.Т.е. нестадные животные, по-Вашему", не обладают понятиями "вкусно - не вкусно", "мягко - жёстко", "комфортно - не комфортно"?
Природа она дура по большому счетуА природа по-Вашему, это что? Создатель, классная дама или процесс?
Эмоциональное окрашивание явлений весьма характерно для стадных животных.Т.е. нестадные животные, по-Вашему", не обладают понятиями "вкусно - не вкусно", "мягко - жёстко", "комфортно - не комфортно"?
Комментарии