ChatGPT превращает нас в роботов? Как ИИ незаметно меняет нашу речь

Всего несколько недель назад статья из Массачусетского технологического института вызвала широкую дискуссию о том, как использование инструментов искусственного интеллекта, таких как ChatGPT, влияет на наше когнитивное и критическое мышление. Выводы, хотя и удивительные, не были совсем неожиданными. Еще в 2023 году Джефф Хэнкок, профессор коммуникаций в Стэнфорде, рассказал, как болтовня с ИИ уже изменила наше восприятие языка и его эмоциональное воздействие.

«Мы обнаружили, что даже если вы не используете эти сгенерированные ИИ ответы, они влияют на то, как вы думаете», — сказал он, ссылаясь на пример шаблонов умных ответов в электронной почте и приложениях для обмена сообщениями. Два года спустя кажется, что характерные языковые паттерны больших языковых моделей, таких как ChatGPT, становятся частью и естественных человеческих разговоров.

Видео от DGL.RU

Что происходит?

Последние выводы получены в результате исследования Университета штата Флорида, и в нем отмечается, как «модные словечки ИИ, чрезмерно используемые чат-ботами на основе больших языковых моделей, не просто предлагаются на экранах — они часто появляются в том, как люди на самом деле говорят». Команда сосредоточилась в общей сложности на 20 словах, и я даже удивлен, что по крайней мере два из них теперь регулярно появляются в моей собственной работе.

Команда изучила то, что они называют лексическими тенденциями до и после выпуска ChatGPT, и обнаружила общую тему между словами, выбираемыми людьми в их повседневных разговорах, и теми, которые часто используются чат-ботами с ИИ. Эти слова, такие как «замысловатый» или «углубляться», стали известны как модные словечки ИИ и часто встречаются в контенте, сгенерированном чат-ботами с ИИ.

Команда проанализировала более 22 миллионов слов в спонтанных и не сценарных разговорах, таких как подкасты, освещающие темы, связанные с технологиями и наукой. Исследователи изучили некоторые известные подкасты, такие как BBC Curious Cases, Lex Fridman и Big Technology podcast, список, который насчитывает 17 известных аудиошоу.

Заметной тенденцией, которая наблюдалась в рамках исследования, было то, что модные словечки ИИ появляются как таковые в человеческих разговорах, и их синонимы, что подтверждает убеждение, что чат-боты с ИИ влияют на наше речевое поведение. Но какова общая картина здесь?

Если вы следили за дискурсом об ИИ или просто общались с чат-ботами с ИИ, такими как ChatGPT или Gemini, вы заметите, что они довольно часто используют несколько слов. Есть заметный шаблон, который легко заметить, например, они более многословны, чем обычный человеческий разговор, или даже используют слишком много длинных тире в тексте.

«Что выделяется, так это широта изменений: так много слов показывают заметный рост за относительно короткий период. Учитывая, что все это слова, которые обычно чрезмерно используются ИИ, кажется правдоподобным предположить наличие связи», — отмечает Том Юзек, профессор компьютерной лингвистики в учреждении, который руководил последним исследованием.

Исследователи обнаружили,что слова, которые в противном случае обычно встречаются в академической работе, появляются в человеческих разговорах, причем некоторые из них появляются почти с удвоенной обычной частотой. Исследование ставит вопрос о том, оказывают ли чат-боты с ИИ «эффект просачивания».

Общая картина

Теперь, прежде чем вы подумаете: «кто бы ни говорил эти слова, он, должно быть, слишком много разговаривает с ИИ», есть несколько аспектов, которые вы должны иметь в виду в этом исследовании. Команда ясно дает понять, что это случай «наблюдаемого совпадения в затронутой лексике», и не говорит об окончательном изменении языка, вызванном ИИ.

Однако в документе содержится предостережение о «новом и потенциально глубоком сдвиге в траектории эволюции языка», если предпочтение модным словечкам ИИ будет продолжать появляться в человеческом общении. В долгосрочной перспективе больший риск заключается в том, начнут ли предубеждения чат-бота с ИИ также подсознательно появляться в человеческих разговорах, даже если они не отражают первоначальный мыслительный процесс говорящего.

Для этого, безусловно, есть прецедент, поскольку появилось множество случаев, когда разговоры с ИИ направляли человека по действительно опасному пути, приводя к чрезвычайным ситуациям в области здравоохранения и серьезному членовредительству. Общий вывод исследования заключается в том, что ИИ не только трансформирует язык, но и, по сути, то, как мы изучаем сам язык.

Рецензируемая статья под названием «Несоответствие моделей и изменение языка: следы языка, связанного с ИИ, в не сценарной устной речи на английском языке» будет опубликована в журнале AIES Proceedings.

Искусственный интеллект – искусственный пузырь? Экономист бьёт тревогу: крах неизбежен