Исследователи обнаружили скрытые метки в текстах, сгенерированных языковыми моделями GPT
Исследователи обнаружили скрытые метки в текстах, сгенерированных языковыми моделями GPT
ChatGPT, OpenAI, commons.wikimedia.org by Jernej Furman from Slovenia is licensed under CC BY 2.0
Группа специалистов, занимающаяся разработкой цифровых инструментов для образования, заявила о выявлении скрытых меток в текстах, создаваемых некоторыми языковыми моделями семейства GPT. Речь идёт о версиях o4-mini, o4-mini-high и o3. Исследователи подчеркнули, что эти метки представляют собой так называемые неразрывные пробелы в кодировке Unicode, которые встраиваются в текст незаметно для большинства пользователей.
По их словам, особенно часто такие символы встречаются вблизи сокращений и дат, при этом в стандартных текстовых редакторах, таких как Google Docs или Microsoft Word, они визуально не проявляются. Однако в редакторах исходного кода — например, Sublime Text или VS Code — они становятся заметны, что позволяет их идентифицировать и анализировать.
Одной из особенностей, на которую указали исследователи, стало то, что подобные "водяные знаки" появляются лишь в достаточно длинных фрагментах текста. Это может свидетельствовать о том, что в языковых моделях тестируются методы скрытой маркировки — с целью отслеживания источника текста, особенно в контексте образовательных задач и проверки оригинальности студенческих работ.
В свете недавнего расширения бесплатного доступа к ChatGPT для учащихся, эксперты не исключили, что OpenAI может экспериментировать с системой, позволяющей преподавателям и академическим системам распознавать тексты, созданные при помощи ИИ. Это особенно важно на фоне обеспокоенности ростом числа студенческих работ, написанных с помощью нейросетей.
В ГД хотят обязать письменно согласовывать с соседями сдачу квартиры в аренду
Депутаты Госдумы собираются представить на обсуждение законопроект, который предполагает, что владельцы квартир будут обязаны получать письменное согласие своих соседей на сдачу жилья в аренду в том случае, если они не заключают с арендаторами официального договора и не регистрируют его в соответствии с установленными нормами.
В вузах просят чаще учитывать индивидуальные достижения абитуриентов
Ректоры российских вузов выступают за увеличение баллов за индивидуальные достижения абитуриентов.
CNBC: валюты мира укрепляются на фоне падения доллара
Недавнее падение курса доллара стало большой проблемой для Центральных банков по всему миру, сообщает CNBC.
Аналитик Попцова: геополитика и продажа валюты укрепляют рубль
На этой неделе аналитики выделили два основных фактора, которые способствуют укреплению рубля: геополитическая ситуация и активные продажи валюты Банком России.