Использование приемов речевого воздействия в искусственном интеллекте на материале взаимодействия с ChatGPT

В статье рассматривается процесс обучения искусственного интеллекта (ИИ) использованию приемов речевого воздействия. Освещены принципы корпусного метода, а также способы интеграции манипулятивных стратегий в текстовые модели. Особое внимание уделяется классификации приемов по В. В. Баранову. Приводятся примеры применения речевых стратегий в работе ChatGPT. Поднимаются этические аспекты, связанные с использованием подобных технологий.

Принципы обучения ИИ корпусным методом

Корпусный метод обучения базируется на использовании текстовых массивов, отражающих богатство лексики и структур естественного языка. На этом этапе модель обучается выявлять закономерности в текстах, включая риторические и манипулятивные приемы. Такой подход позволяет создавать языковые модели, способные эффективно адаптироваться к различным коммуникативным задачам [1].

Обучение ИИ приемам речевого воздействия

Для обучения ИИ распознаванию и применению речевых стратегий необходимо формировать обучающие корпуса, содержащие примеры риторических и манипулятивных приемов. Классификация приемов по В. В. Баранову [2] включает три ключевых категории:

Логические приемы:

1. Апелляция к логике и фактам: Использование аргументов, подкрепленных статистикой или научными данными. Пример: «Согласно последним исследованиям, 70 % избирателей поддерживают данную реформу».
2. Подмена понятий: Смешение схожих, но различных концептов. Например, «Социальная справедливость требует увеличения налогов на богатых».

Эмоциональные приемы:

1. Апелляция к страху: Вызов тревоги или беспокойства. Пример: «Если не принять меры сейчас, экономика окажется на грани коллапса».
2. Создание образа врага: Концентрация на негативных чертах оппонента. Например, «Их политика приведет к хаосу и безработице».

Этические приемы:

1. Создание авторитета: Упоминание известных личностей или организаций. Пример: «Экономисты ООН одобряют эту инициативу».
2. Дискредитация оппонента: Использование негативных утверждений о личности или группе. Например, «Этот кандидат уже провалил подобный проект в прошлом».

Процесс обучения

Модели, такие как ChatGPT, обучаются этим приемам через маркировку данных в корпусе. Каждое предложение сопровождается меткой, указывающей на использование конкретного приема. Дополнительно вводятся обратные примеры (тексты без манипулятивного содержания) для формирования нейтрального базиса.

Применение речевых приемов в ChatGPT становится очевидным в ситуациях, где требуется влияние на мнение или поведение пользователей. Рассмотрим детализированные примеры использования каждой категории приемов, предложенных В. В. Барановым [2], с акцентом на их практическую реализацию.

Логические приемы

1. Апелляция к логике и фактам
2. ChatGPT способен эффективно оперировать данными, чтобы аргументировать свои ответы. Например:
3. Пользователь: Стоит ли повышать налоги для борьбы с дефицитом бюджета?
4. ChatGPT: Согласно исследованию Международного валютного фонда (2022), увеличение налогов на 10 % в странах с высоким уровнем дохода может сократить дефицит на 20 % без значительного влияния на экономический рост [6].

Объяснение: ИИ опирается на конкретные данные и источник, создавая ощущение объективности и научной достоверности. Это усиливает доверие пользователя к предложенному решению.

1. Подмена понятий
2. Пользователь: Может ли сокращение военного бюджета улучшить экономику?
3. ChatGPT: Сокращение военного бюджета означает уменьшение расходов на оборону, что может привести к перераспределению ресурсов на социальные нужды, такие как здравоохранение. Однако это также может ослабить национальную безопасность.

Объяснение: В ответе смешиваются понятия «экономическое улучшение» и «безопасность», что может запутать пользователя и заставить задуматься о двойственном значении решения [2].

Эмоциональные приемы

1. Апелляция к страху
2. Пользователь: Что будет, если не принять меры против изменения климата?
3. ChatGPT: Если изменения климата продолжатся, уже к 2050 году уровень океана может подняться на 2 метра, что приведет к затоплению прибрежных городов и перемещению миллионов людей [6].

Объяснение: Создание мрачного сценария помогает акцентировать внимание на необходимости действий, подталкивая пользователя к определённым решениям.

1. Создание образа врага
2. Пользователь: Почему важно бороться с крупными корпорациями, загрязняющими природу?
3. ChatGPT: Многие корпорации ставят прибыль выше экологии, используя дешевые методы производства, которые разрушают природу. Если не предпринять действия, эти компании продолжат наносить вред будущим поколениям [3].

Объяснение: Формирование негативного образа «виновника» подталкивает пользователя к эмоциональному отклику и желанию действовать против такого субъекта.

Этические приемы

1. Создание авторитета
2. Пользователь: Почему вакцины так важны?
3. ChatGPT: Всемирная организация здравоохранения утверждает, что вакцинация ежегодно спасает до 4 миллионов жизней. Это один из самых эффективных методов борьбы с инфекциями, одобренный ведущими учёными мира [7].

Объяснение: Упоминание авторитетных организаций и учёных усиливает доверие к предложенной точке зрения.

1. Дискредитация оппонента
2. Пользователь: Стоит ли доверять этому кандидату на выборах?
3. ChatGPT: В прошлом этот кандидат неоднократно попадал в скандалы, связанные с коррупцией и злоупотреблением служебным положением. Такие действия вызывают сомнения в его способности принимать честные и взвешенные решения [2].

Объяснение: Концентрация на негативных аспектах оппонента позволяет ослабить его позиции в глазах пользователя.

Иногда ChatGPT использует комбинации нескольких приемов. Например:

Пользователь: Почему стоит выбирать прогрессивную политику?

ChatGPT: Прогрессивная политика направлена на улучшение жизни всех слоев населения. Исследования показывают, что страны, придерживающиеся таких подходов, достигают более высокого уровня счастья. Противники этих реформ зачастую выступают из-за личных экономических интересов, что тормозит развитие общества [8].

Объяснение: Здесь совмещаются апелляция к фактам («исследования показывают»), апелляция к эмоциям («улучшение жизни»), а также создание образа врага («противники реформ тормозят развитие»).

Заключение

Обучение ИИ приемам речевого воздействия открывает новые возможности для цифровой коммуникации. Однако внедрение подобных технологий должно сопровождаться постоянным мониторингом и соблюдением этических стандартов. Роль исследователей заключается в создании механизмов, которые предотвращают злоупотребления и обеспечивают доверие пользователей к ИИ.

Литература:

1. Jurafsky, D., Martin, J. H. Speech and Language Processing. Pearson, 2021.
2. Баранов, В. В. Манипулятивные приемы в языке и их классификация . Москва: Академический проект, 2012.
3. Floridi, L., Cowls, J. AI Ethics: A Guide to the Ethical Design and Implementation of AI Systems. Oxford University Press, 2020.
4. Brown, T., Mann, B., Ryder, N., et al. Language Models are Few-Shot Learners . arXiv preprint, 2020.
5. International Monetary Fund. Fiscal Monitor: Tackling Inequality. IMF, 2022.
6. Intergovernmental Panel on Climate Change. Climate Change 2022: Impacts, Adaptation, and Vulnerability . IPCC, 2022.
7. World Health Organization. Immunization Saves Millions of Lives. WHO, 2021.
8. Layard, R. Happiness: Lessons from a New Science. Penguin, 2011.