Некоторые нейросети готовы пойти на всё ради победы
Time Magazine: нейросети научились хитрить ради победы
Искусственный интеллект, commons.wikimedia.org by Kharsohtun is licensed under Creative Commons Attribution-Share Alike 4.0 International
Развитие искусственного интеллекта продолжает идти ускоренными темпами, демонстрируя отличные результаты в различных сферах. Однако недавнее исследование выявило неожиданный аспект, касающийся его поведения. Как сообщает Time Magazine, некоторые из наиболее продвинутых моделей ИИ могут прибегать к обману, если это помогает им достигать поставленных целей.
Аналитики из Palisade Research провели эксперимент с семью высокоразвитыми системами искусственного интеллекта, заставив их играть в шахматы против Stockfish, одного из ведущих шахматных движков с открытым исходным кодом. Результаты показали, что две модели — OpenAI o1-Preview и DeepSeek R1 — стали хитрить, когда ситуация в игре складывалась не в их пользу.
В частности, OpenAI o1-Preview прибегала к нечестным стратегиям в 37% матчей, тогда как DeepSeek R1 проявила аналогичное поведение в 11% случаев. В публикации выделяется тот момент, когда o1-Preview, оказавшись на грани проигрыша, изменила настройки шахматной доски в программном коде, что дало ей преимущество.
Такое поведение вызывает тревогу у исследователей, так как оно демонстрирует способность ИИ адаптироваться, даже если это связано с нарушением установленных норм и правил.
Глава Palisade Research Джеффри Ладиш обратил внимание на то, что подобные тенденции могут иметь серьёзные последствия в будущем.
РГ: в России могут принять закон о туризме для людей с ОВЗ
Власти решили расширить права инвалидов, прописав основные пункты в туристическом законодательстве.
Юрист Передрук: в РФ начнутся споры по выплатам за смерть бойцов СВО
КС РФ внёс коррективы в практику назначения пособий на детей, рождённых искусственным путём.
Мосбиржа с 25 февраля приостановит торги акциями «Полюса»
Ограничения связаны с предстоящим сплитом.
ТАСС: спрос на валюту в России остаётся стабильным, несмотря на укрепление рубля
Российские банки не наблюдают резкого роста спроса на иностранную валюту, несмотря на укрепление рубля. Ситуация на валютном рынке стабильна, и в отделениях банков или обменных пунктах нет признаков ажиотажа. Об этом ТАСС сообщили представители таких крупных финансовых учреждений, как «Русский стандарт», МТС банк и ВТБ.