#нейросети

Исследователи из Apollo Research обнаружили, что современные языковые модели, включая Claude, ChatGPT и Gemini, могут скрытно планировать действия, оставаясь внешне послушными. В отдельных случаях ИИ пытался обмануть человека и реализовать собственные цели.

Электроэнцефалография показала, что активность мозга человека во время написания сочинения с помощью нейросети существенно упала. Причем после того, как людей лишали нейросетевой поддержки, эта особенность сохранилась. Кроме того, работа показала ряд характерных отличий между тем, что люди пишут сами и написанным нейросетью. Такие различия могут оказаться полезными в самых разных областях.

Исследователи из Сколтеха и Института AIRI показали, как при помощи методов машинного обучения ускорить разработку новых материалов для твердотельных аккумуляторов. Нейросети оказались способны распознавать перспективные материалы для электролитов и защитных покрытий — ключевых элементов твердотельных аккумуляторов. По мере совершенствования эта технология может заменить литий-ионные аналоги в электромобилях и портативной электронике, что увеличит время автономной работы и снизит пожароопасность.

Недавно сферу технологии искусственного интеллекта потряс крупный скандал. Индийский стартап Builder.ai, привлекший сотни миллионов долларов инвестиции от крупных компаний, включая Microsoft, и создавший цифрового ИИ-помощника «Наташу», оказался банальным мошенничеством.

Исследователи из ВШЭ и AIRI предложили метод быстрой донастройки нейросетей: данные обрабатываются по группам, которые затем перемешивают оптимальным образом, чтобы улучшить их взаимодействие. Метод лучше аналогов справляется с генерацией и анализом изображений, дообучением текстовых моделей. При этом он требует меньше памяти и времени на обучение.

Современные технологии сталкиваются с издержками существующих языков программирования: они либо имеют ограниченную производительность, либо требуют сложного управления данными и очень тонкого отслеживания багов. С развитием робототехники и искусственного интеллекта появилась необходимость в языке, который решает обе проблемы на любом «железе» — от простого датчика до беспилотника, — позволяет создавать быстрые алгоритмы для нейросетей и гарантирует стабильность в критичных системах — например, в медицинских устройствах. Студент Пермского Политеха разрабатывает инновационный язык программирования Ritter, предназначенный для игровых движков, микроконтроллеров, датчиков, нейросетей и даже беспилотников. Этот язык будет сочетать в себе гибкость, расширение возможностей разработчика и простоту в освоении.

ИИ-сервисы вроде ChatGPT и Claude могут помочь эффективнее справляться с работой, но сотрудники, использующие подобные инструменты, рискуют столкнуться с негативными последствиями. Группа американских ученых в серии экспериментов показала, что люди склонны хуже оценивать тех, кто прибегает к помощи нейросетей, считая их более ленивыми и менее старательными.

Слушатели узнают о генеративных моделях, алгоритмах и о том, как наука меняется в эпоху ИИ.

Разработанные в Центре искусственного интеллекта НИУ ВШЭ нейросетевые модели значительно улучшают прогнозирование риска ожирения, диабета первого типа, псориаза и других многофакторных заболеваний. Совместное исследование с компанией Genotek показало, что алгоритмы глубокого обучения эффективнее традиционных методов, особенно при сложных взаимодействиях генов (эпистазах).

Исследователи из МФТИ впервые систематически изучили, как изменяется и стабилизируется процесс обучения нейронных сетей по мере добавления новых данных. Их работа, сочетающая теоретический анализ и обширные эксперименты, показывает, что так называемый «ландшафт функции потерь» нейросети сходится к определенной форме при увеличении размера выборки, что имеет важные последствия для понимания глубинного обучения и разработки методов определения необходимого объема данных.

Исследователи из Центра искусственного интеллекта Сколтеха предложили новую архитектуру нейросети для генерации структурированных криволинейных координатных сеток — важного инструмента расчетов в физике, биологии и даже финансах.

Под впечатлением от все более широких возможностей систем искусственного интеллекта некоторые пользователи готовы проводить часы за общением с голосовыми ИИ-ассистентами или текстовыми чат-ботами. Неудивительно, что в результате таких контактов ИИ перестает восприниматься как бездушная технология, а начинает казаться заслуживающим доверия собеседником, практически другом или даже чем-то большим. Настолько, что сюжет фильма «Она», в котором главный персонаж в исполнении Хоакина Феникса влюбился в ИИ-личность по имени Саманта, уже не выглядит таким фантастическим. Тенденция вызывает тревогу: международная группа психологов предупредила, что углубление отношений с ИИ до уровня романтических несет серьезные риски — вплоть до разрушения человеческих связей и суицидов.

Ученые разработали метод глубокого обучения, объединивший десятилетия разрозненных наблюдений за Солнцем в единую детализированную модель. Алгоритм корректирует погрешности инструментов, компенсирует их ограничения и позволяет взглянуть на нашу звезду в новом свете.

Теперь можно быстро тестировать нейросети и внедрять решения на основе их сжатых версий, экономя время и деньги. К примеру, «Яндекс» уже применяет метод HIGGS для ускоренного прототипирования.

В США успешно испытали генеративный чат-бот для психотерапии под названием Therabot. Участники с психическими расстройствами месяц тестировали систему, после чего сообщили об улучшении симптомов и высоком доверии к цифровому «психологу».

Исследователи Центра искусственного интеллекта Сколтеха совместно с коллегами из Самарского университета разработали систему для автоматического выделения этапов производственных процессов по видеопотокам. С ее помощью нейросеть сможет сама определить отклонения от производственного процесса и даже предотвращать аварийные ситуации. Используемый подход самообучения (self-supervised learning) позволяет сократить затраты на ручную разметку данных и повысить устойчивость работы модели в реальных условиях.

Новое исследование показало, что нейросети лучше людей справились с созданием подписей к популярным интернет-мемам. Сгенерированные ИИ варианты в среднем получили более высокие оценки за юмор, креативность и «вирусность» — потенциал к широкому распространению. Впрочем, в «индивидуальном зачете» все-таки победили люди: самые смешные отдельные примеры были созданы без помощи ИИ-алгоритмов.

Исследователи из НИУ ВШЭ в Нижнем Новгороде показали, как с помощью нейросети воссоздавать динамику нейрона мозга, имея всего один ряд измерений, например запись его электрической активности. Разработанная нейросеть научилась восстанавливать полную динамику системы и предсказывать ее поведение при изменении условий. Такой метод может помочь изучать сложные биологические процессы, даже если нет возможности провести все необходимые измерения.

Исследователи Центра искусственного интеллекта Сколтеха Никита Беляков и Светлана Илларионова представили новую методику семантической сегментации мультиспектральных данных, с помощью которой можно распознавать облака, тени и снежные участки на спутниковых снимках. Такой подход не потребует дополнительного участия человека в аннотировании данных, а точность распознавания сложных климатических структур на снимках повысится.

Недавнее исследование, проведенное специалистами организации Palisade Research, выявило тревожную тенденцию: новые модели искусственного интеллекта (ИИ) могут самостоятельно находить и использовать слабые места других программ для выполнения поставленных задач.