Создана библиотека изображений, недоступных для искусственного интеллекта — Naked Science
3 минуты
Сергей Васильев

Создана библиотека изображений, недоступных для искусственного интеллекта

Ученые из Беркли собрали десятки тысяч фотографий, с распознаванием которых нейросети справиться не могут.

ai0
©Wikipedia

Почти любой проект по разработке искусственного интеллекта для распознавания образов и машинного зрения требует обширной базы данных, в которой содержатся уже распознанные и описанные людьми изображения: на них нейросети обучаются и совершенствуются. Крупнейшая из таких открытых библиотек ImageNet включает более 14 миллионов аннотированных изображений, разделенных по более чем 20 тысячам категорий.

 

Недавно их список пополнился еще одной — группой ImageNet-A, содержащей фотографии, на которых ошибаются даже самые совершенные алгоритмы ИИ. Новый датасет исследователи из Калифорнийского университета в Беркли представили в статье, опубликованной в онлайн-библиотеке препринтов ArXiv.Org. По сообщению авторов, набор содержит около 7500 обычных снимков, при распознавании которых нейросети ошибаются в 98 случаях из 100.

 

Некоторые примеры ImageNet-A: черным показаны правильные ответы, красным — результаты распознавания популярными алгоритмами / ©Hendrycks et al., 2019

 

В самом деле, по мере все большего распространения систем машинного зрения все большую опасность приобретают технологии нарушения их работы. Показано, что даже сравнительно небольшой — с точки зрения наших глаз — манипуляцией с картинкой можно сбить с толку даже самый совершенный ИИ, организовав «состязательную атаку» (adversarial attack) на его алгоритмы.

 

Однако набор ImageNet-A показывает, что подобные изображения могут получаться и без чьего-либо запланированного вмешательства, случайным образом — сами по себе. Следовательно, любое машинное зрение, которому мы собираемся доверить человеческие жизни, должно справляться с появлением таких образов. Именно для этого и появился новый датасет.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Вчера, 21:19
5 минут
Мария Кривоченко

Попав в пасть лягушки, жуки обычно погибают. Хотя земноводные не могут перемолоть их зубами, как это делают млекопитающие, желудочный сок разъедает большинство насекомых. Однако водолюбы смогли выжить и выбраться наружу через кишечник без повреждений.

Вчера, 11:44
5 минут
Денис Гордеев

Соседняя планета, скорее всего, была покрыта толстым слоем льда, что в корне противоречит принятым ныне концепциям.

Вчера, 18:50
5 минут
Мария Кривоченко

Группа археологов обнаружила шкатулку с артефактами на дне озера Титикака. В ней оказались фигурки из раковины моллюска и золота, которые инки считали очень ценными. Ученые полагают, что находка — часть жертвоприношения богам воды или плодородия.

Позавчера, 09:31
4 минуты
Сергей Васильев

Микроскоп с высокоскоростной камерой и компьютерное моделирование показали, что сперматозоиды плавают не за счет боковых движений хвоста, а быстро вращаясь всем телом.

2 августа
2 минуты
Илья Ведмеденко

Сегодня, в 20:00 (мск), должен состояться 150-метровый «прыжок» демонстратора технологий космического корабля Starship. Трансляцию вы сможете посмотреть на нашем сайте.

2 августа
34 минуты
Александр Березин

На планете разворачивается новая лунная гонка. Российская космическая отрасль пытается обозначить участие в ней, патентуя многопусковой полет к спутнику Земли. Очевидно, что это лишь суррогат сверхтяжелых ракет, которых мы пока не строим. США, напротив, активно разрабатывают сразу два сверхтяжа – но и там не все гладко. Их лунная программа может испытать сильнейший удар в ближайший год. Скептики считают, что усилия всех участников гонки бесполезны. Мол, пилотируемые полеты к другим небесным телам не нужны, ибо дороги. Автоматы смогут все сделать намного дешевле. На деле лунная программа, как мы покажем ниже, не дороже полетов к МКС. Да и автоматы не дадут нам ничего подобного результатам пилотируемой лунной экспедиции. Попробуем разобраться почему.

6 июля
5 минут
Мария Азарова

Ученые, работающие с крупнейшим в мире радиотелескопом, сообщили об обнаружении эмиссии нейтрального водорода, исходящей от объектов за пределами нашей Галактики.

22 июля
66 минут
Александр Березин

С 2064 года численность людей начнет сокращаться — и этот процесс может быть необратим. Один из авторов соответствующей научной работы прямо указывает: если ничего не изменится, через несколько веков человечество вымрет. Однако есть вещи и похуже вымирания. Куда вероятнее иной сценарий: мир будет заселен теми, кто сможет размножаться в новых культурных условиях. К сожалению, значительная часть современных европейцев, американцев и, возможно, других народов будут вытеснены с первых страниц истории. Вдобавок те, кто победят в этой непростой борьбе, нам, сегодняшнему населению Земли, могут сильно не понравиться. Попробуем разобраться почему.

10 июля
7 минут
Мария Кривоченко

Биологи выяснили, какое воздействие оказывают радиоволны на эмбрионы рыб. Оказалось, они существенно не влияют на уровень смертности, морфологию и реакцию на свет, но немного подавляют сенсомоторные функции. Как это скажется на взрослых особях, еще предстоит выяснить.

[miniorange_social_login]

Комментарии

Написать комментарий

Подтвердить?
Лучшие материалы
Предстоящие мероприятия
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: