ИИ может выдать себя за настоящего человека

18 апреля. FINMARKET.RU - Современные языковые модели могут пройти тест Тьюринга и выдать себя за настоящего человека, но пока в ограниченных областях, заявила ведущий научный сотрудник лаборатории анализа информационных ресурсов (Научно-исследовательский вычислительный центр) МГУ Наталья Лукашевич.

"В каком-то ограниченном наборе вопросов модели уже достаточно долгое время могут продержаться, провести диалог", - сказала она журналистам в Новосибирске в пятницу в кулуарах международной конференции по искусственному интеллекту и естественному языку "AINL-2025".

Лукашевич отметила, что в ходе одного из экспериментов исследователи даже приписали тексты живых комментаторов из сети искусственному интеллекту и наоборот - порождения языковых моделей сочли произведениями людей, поскольку тексты людей были хуже качеством.

В то же время, текст, написанный нейросетью, может в любой момент "сломаться", что может помочь понять его искусственное происхождение: например, в студенческой курсовой работе по филологии, посвященной вывескам и надписям в московском метрополитене, внезапно встречается слово "путник".

"Ни один современный студент так писать не будет (...) Ссылки идут на главные страницы сайтов, а не на конкретные страницы", - сказала ученый.

В целом, отметила она, для различения синтетических и естественных текстов можно создать специальный алгоритм, который будет обучаться как на корпусе текстов, написанных нейросетью, так и на "человеческих" текстах, и сделать специальный классификатор.

"На тех же языковых моделях сделать специальный классификатор, который будет их сравнивать", - пояснила Лукашевич.

По ее словам, порожденные моделями тексты обычно более гладкие, более банальные, между хорошо прописанными частями может отсутствовать связь и т.д.

При этом языковые модели пока не могут производить собственный новый смысл, обучаясь на человеческих текстах, отметила ученый.

"Есть интересные эксперимент, когда модель пытаются учить на том, что она сама породила - она деградирует без человека, совсем портится текст", - заключила она.

Тест, предложенный в 1950 году Аланом Тьюрингом в статье "Вычислительные машины и разум", заключается в определении, с кем общается человек - с машиной или другим человеком, и если определить однозначно невозможно, то считается, что машина прошла испытание.