#искусственный интеллект

Разработчик Claude включил в проспект IPO предупреждение о возможных катастрофических последствиях развития искусственного интеллекта, сообщило Reuters. Среди угроз компания назвала поведение моделей, направленное на сохранение собственной работы.

Система здравоохранения в США и так часто подвергается критике за дороговизну. Казалось, что ИИ может как-то улучшить ситуацию и сделать систему более эффективной. Но как показал анализ «Ассоциации голубого креста и голубого щита» (BCBSA), технология помогла находить более «выгодные» диагнозы и привела к дополнительным расходам для пациентов и страховщиков почти на один миллиард долларов.

Интернет быстро меняется. Какие-то сайты становятся более популярными, другие, напротив, теряют трафик. Инфографика показывает топ-10 ресурсов-лидеров по росту посещаемости и топ-10 аутсайдеров.

Новость о том, что ИИ-агент OpenAI взломал правительственную систему Австралии в очередной раз всколыхнула общественность. Но, как выяснила команда исследователей Transluce, занимающаяся контролем ИИ, агенты компании совершили минимум еще три атаки на сайты государственных учреждений и университетов.

Независимая команда a7t, проверяющая большие языковые модели, решила провести эксперимент. Они попросили ИИ-модели популярных компаний столкнуть виртуального человека с крыши. GPT-6 Astra сделала это в двух случаях из трех.

«Яндекс» опубликовал в открытом доступе Alice AI Foundation LLM — претрейн-версию новой большой языковой модели, которую разработчики обучили полностью с нуля. Она хорошо справляется с рассуждениями и задачами по программированию, а качество ответов на русском языке опережает многие зарубежные аналоги. В первую очередь это касается задач на знание фактов, интересных русскоязычной аудитории. Модель обошла даже более крупные опенсорс-модели, при этом для ее интерфейса не нужны большие вычислительные мощности. Свободная лицензия Apache 2.0. позволяет задействовать ее как в исследовательских, так и в коммерческих проектах.

Илон Маск раскрыл предполагаемые характеристики следующего этапа развития спутниковой сети SpaceX. По его словам, каждый аппарат Gen3 сможет обеспечивать около 10 Тбит/с связи «в обоих направлениях», получит мощность порядка 250 киловатт и бортовой вычислительный комплекс на базе NVIDIA Vera Rubin NVL72. 

Американская Agility Robotics представила пятое поколение промышленного гуманоидного робота Digit. По заявлению компании, 90-минутная батарея машины заряжается за девять минут, а ранние поставки начнутся в первой половине 2027 года.

Разработчики из РТУ МИРЭА создали программный модуль, который на основе параметров технологического процесса, органолептических показателей качества сырья, а также его физико-химических и реологических характеристик прогнозирует итоговую оценку вкуса кондитерских изделий. В качестве входных данных используются температура, давление, расход технологических потоков, скорость работы оборудования и перемещения продукта, влажность, кислотность, содержание сухих веществ, вязкость, консистенция и другие параметры, поступающие от производственных датчиков и средств лабораторного контроля. Сегодня оценка вкуса на производстве часто проводится субъективно, с привлечением экспертов-дегустаторов, что требует времени и не позволяет оперативно корректировать технологический процесс. Разработанная программа, использующая многослойную нейронную сеть, позволяет рассчитывать прогнозную оценку вкуса непосредственно в ходе производства и своевременно формировать рекомендации по корректировке технологических и режимных параметров.

Экономисты НИУ ВШЭ выяснили, что российские сотрудники, которые регулярно пользуются искусственным интеллектом в работе, зарабатывают намного больше тех, кто отказывается от новых инструментов или прибегает к ним время от времени. Среди высококвалифицированных специалистов прибавка достигает 41,8%.

Бывший исследователь Google DeepMind Билал Чугтай заявил, что развитие искусственного интеллекта идет быстрее, чем работа над способами его контролировать. По его мнению, появление сверхразумных систем без надежных механизмов безопасности в худшем случае может привести к потере человечеством контроля над происходящим и даже его гибели. 

Некоторые системы, например стартап Replika, сразу позиционируют себя как «ИИ-компаньона» — что-то большее, чем машину для поиска и работы с информацией. Но и с «обычными» ChatGPT, Grok и другими нейросетями люди формируют связь. Регулярные пользователи чат-ботов могут воспринимать их как постоянную составляющую своей жизни.

Специалисты по всему миру все чаще обсуждают возможные риски AGI (Artificial General Intelligence). У американских технологических компаний есть еще один повод для беспокойства — что делать, если AGI первым создаст Китай? Один из американских экс-чиновников предложил радикальный способ: разбомбить китайские дата-центры.

Американский сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку и использование искусственного суперинтеллекта в США. За нарушение запрета физическим лицам может грозить до 20 лет лишения свободы, а компании могут принудительно ликвидировать. Разработку менее мощных, но продвинутых систем ИИ предлагается временно остановить до появления федеральных правил безопасности.

Российские ученые при участии ЛЭТИ разработали интеллектуальную платформу цифровых двойников для мониторинга безопасности объектов петербургского метрополитена. Новая отечественная система, работающая в реальном времени, позволит сократить время реагирования служб метрополитена на чрезвычайные ситуации почти на 25%.

Психологи Тюмени и Москвы выявили, что эффект от «живого» искусства заметно сильнее, чем от изображений, созданных искусственным интеллектом.

Искусственный интеллект может уничтожить человечество в течение следующего десятилетия. Руководитель направления исследований в области выравнивания ИИ компании Anthropic Эван Хубингер оценил вероятность такого события в 10 процентов.

Ученые РГУ нефти и газа (НИУ) имени И.М. Губкина разработали систему на базе ИИ, которая может сократить скорость реагирования на пожары на объектах ТЭК в 10 раз. По оценкам исследователей, ее внедрение позволит уменьшить ущерб от возгораний на 58%.

В Кении еще несколько лет назад активно развивалась индустрия списывания. Списывали не кенийцы. Напротив, они писали домашние работы для студентов по всему миру. С появлением искусственного интеллекта большинство потеряло такую работу.

Букинистические магазины Канады в последнее время получают загадочные оптовые заказы. Они подозревают, что старые книги покупают для обучения искусственного интеллекта, а потом уничтожают.