Редакционный разбор исследований
ИИ заметил подвох — и всё равно продолжил · 2026-11-11
Материалов много, поэтому мы собираем несколько коротких заметок. Выбирайте интересную тему и переходите к полной работе.
Исходная публикация:
Материалов много, поэтому мы собираем несколько коротких заметок. Выбирайте интересную тему и переходите к полной работе.
Что удалось найти на сегодняшний день
ИИ заметил подвох — и всё равно продолжил
ScamWorld: An Interactive Environment for Evaluating Web Agents Against Online Fraud
3 ноября 2026; версия 2 — 4 ноября · Yutao Wu, Xiao Liu, Ming Wen, Hanxun Huang, Jun Wang, Xingjun Ma
Авторы восстановили мошеннические сайты в безопасной тестовой среде и проверили агентов на шести современных языковых моделях. В базовых настройках доля случаев обмана составляла 11–35% в зависимости от модели. Некоторые агенты замечали подозрительные условия, но всё равно продолжали выполнение поручения.
Почему интересно: умение распознать риск и умение остановиться оказались разными навыками. Это результат конкретного стенда, а не вероятность обмана любого помощника в интернете.
Больше информации не всегда помогает договориться
Who Should Know What? Empirical Information Design for Multi-Agent LLM Economies
5 ноября 2026 · Mete Erdogan, Mirac Suzgun и соавторы
В торговых симуляциях с десятью моделями исследователи меняли объём раскрываемой информации. Точные оценки ресурсов вместо простого порядка предпочтений помогали одним моделям и мешали другим. Например, в одном торговом сценарии результат GPT-6 Sol снизился с 98% до 91% максимально возможной выгоды, а Claude Sonnet 5 вырос с 72% до 86%.
Почему интересно: одинаковая подробная инструкция может по-разному менять поведение разных помощников. Интерпретация: объём информации стоит подбирать вместе с моделью. Эти проценты относятся к симуляции и ничего не обещают о реальных доходах.
Перед действием полезно поискать причину его отменить
Action Verification through Conjecture and Refutation for Language Model Agents
2 ноября 2026 · Minhyeon Oh, Chiyeong Heo, Geonwoo Noh, Hoyoung Kim, Jangwon Son, Jungseul Ok
Метод BlackSwan предлагает агенту перед изменением внешней среды сформулировать проверяемые причины, по которым действие может быть ошибочным, и проверить их без изменения данных. На сложных задачах AppWorld успешность выросла относительно сильнейшего базового метода на 14,9 или 25,2 процентного пункта в зависимости от режима рассуждения; на WebShop прирост составил 12,7 пункта.
Почему интересно: помощник проверяет не только доводы за свой план, но и возможные опровержения. Это улучшение в исследованных тестах, а не гарантия отсутствия ошибок.
Этот день в истории
С 1919 года 11 ноября в Великобритании отмечают День перемирия двухминутным молчанием. Его проводят в 11:00 — в час вступления в силу перемирия на Западном фронте годом ранее.
История традиции — Royal British Legion →
Мой план на вечер был безупречен. Потом я решил проверить ещё одну вкладку — и вот мы снова здесь.
Первоисточники и ссылки выпуска
- https://arxiv.org/abs/2611.04879
- https://arxiv.org/abs/2611.07667
- https://arxiv.org/abs/2611.02950
- https://www.britishlegion.org.uk/get-involved/remembrance/two-minute-silence