Искусственный интеллект в образовании и медиа: дружим или опасаемся?

Кому сейчас можно задать любой вопрос? Браузеры, которые были главными источниками информации в Интернете, уже уходят на второй план, а в требованиях работодателей появляется новая строчка: «Умение пользоваться нейросетью». Тот самый умный помощник незаметно внедрился в жизнь каждого из нас. Признаемся, иногда становится страшно, ведь даже этот текст могла бы написать нейросеть. Но пока с вами всё ещё живая редакция НОС, у которой назрело много вопросов: Кому принадлежат права на созданный нейросетью контент? Кто несёт ответственность за её ошибки? И как грамотно использовать эти технологии без риска для себя и окружающих? Ответы на эти вызовы ищут ведущие российские эксперты. Мы тоже не можем сидеть на месте, поэтому поговорили со знающими людьми, чтобы узнать их мнение о применении нейросетей в сфере образования и медиа.



Онлайн-кампус Высшей школы экономики опросил 1,3 тысячи респондентов из городов-миллионников на тему применения ИИ в образовательных целях. 76% россиян, когда-либо использовавших нейросеть, положительно относятся к ней в сфере образования. Если бы нам в школе сказали, что за пару минут решатся все наши задачки по математике и упражнения по русскому, этот показатель бы достиг 100%... Так, это мы немного отвлеклись. Согласно исследованию, лишь 10% респондентов выражают негативную оценку новых технологий. Наиболее востребованными направлениями применения нейросетей стали: изучение иностранных языков (54%), помощь с выполнением упражнений и домашних заданий (40%), а также поиска информации (33%). Примечательно, что 49% опрошенных готовы инвестировать в платные образовательные продукты на основе ИИ.





За растущим энтузиазмом в отношении новых технологий скрывается серьёзная правовая неопределенность. Доцент кафедры информационного права и цифровых технологий, эксперт Института информационной и медиабезопасности Университета имени О.Е. Кутафина (МГЮА), к. ю. н. Галина Грищенко указывает, что вопросы установления авторства на контент, сгенерированный технологиями ИИ, не имеют однозначной трактовки в российском законодательстве. «Согласно статье 1228 ГК РФ, автором результата интеллектуальной деятельности признаётся гражданин, творческим трудом которого создан такой результат. Однако ключевой проблемой становится определение объёма творческого вклада человека в создание произведения с помощью ИИ», — комментирует эксперт. И действительно, можно ли назвать творчеством составление промпта по типу: «Напиши статью про применение ИИ в образовании и медиа»? Но можете быть уверены — мы такой запрос не отправляли (нейросеть же не стала бы ругать сама себя, верно?).

В правоприменительной практике сложилось несколько основных подходов к этому вопросу. Согласно первому, авторские права никому не принадлежат, так как творческая деятельность человека отсутствует. Фактически он участвует в процессе лишь опосредованно, а контент генерирует нейросеть. Второй подход предполагает, что автором может быть признан либо обладатель прав на программное обеспечение, либо пользователь, сформулировавший запрос к нейросети. Третий вариант — охрана результатов деятельности ИИ в рамках смежного права.

Проблема усугубляется феноменом «чёрного ящика». Таким загадочным термином описывается невозможность отследить исходные данные, использованные для обучения модели. К сожалению, мы не сможем прийти к кому-то с претензией, что они неверно воспитывали своего робота — вся ответственность уже на нас. При этом действующее российское законодательство не предусматривает обязательную маркировку контента, сгенерированного ИИ, в отличие, например, от Китая. Однако, как предупреждает эксперт, если будет установлено, что текст, созданный ИИ, содержит «чужие» объекты интеллектуальной собственности, ответственность возлагается на публикатора. «Учитывая, что в Государственной Думе Российской Федерации находится законопроект о внесении изменений в ч. 4 ГК РФ в части затронутых вопросов, то рекомендуется во избежание недоразумений всё же указывать ссылки на применение технологий ИИ при генерации соответствующего контента», — советует Галина Грищенко.





Видели шутку: «Прошу у GPT проанализировать таблицу с супер-секретными данными компании, в которой работаю»? Пошутили, посмеялись, а теперь время задуматься. «Пользователям не следует делиться с чат-ботами личной и корпоративной информацией, так как разработчики могут использовать эти данные для обучения моделей. Кроме того, всегда существует риск кибератак или ошибок в проектировании ИИ-сервисов, что может привести к утечкам», — предупреждает руководитель направления исследования данных в «Лаборатории Касперского» Дмитрий Аникин в журнале «Обзор.НЦПТИ». Особую опасность представляют неофициальные ИИ сервисы, которые могут публиковать переписки пользователей в открытом доступе: «Злоумышленники активно используют тему популярности нейросетей. Например, под видом ИИ-приложений распространяются вирусы, которые маскируются под приложения ChatGPT, Grok и DeepSeek. Также ИИ используется для создания дипфейков, фишинговых страниц и даже вредоносных программ, как в случае с программой-шифровальщиком BlackSuit».

И, конечно, обсудим вопрос доверия. Особый интерес экспертов вызывает феномен «уверенной недостоверности» ИИ. «Нельзя слепо полагаться на ответы чат-ботов ИИ — они могут ошибаться и создавать так называемые «галлюцинации», — отмечает Дмитрий Аникин. — Они могут приводить вам несуществующие ссылки на литературу и исследования. Поэтому особенно опасно использовать их для принятия важных медицинских или юридических решений, как показал случай с американским адвокатом, получившим от ChatGPT выдуманные судебные прецеденты».



Директор ООО «Дата Кайдзен» Денис Рындин в журнале «Обзор.НЦПТИ» также обращает внимание на фундаментальную проблему нейронных сетей: «ИИ обучается не на понимании логики мира, а на прогнозировании последовательности слов. Когда модель видит запрос, она «угадывает», какое слово статистически наиболее вероятно должно следовать за предыдущим. В ситуациях, где информации недостаточно, модель создает «правдоподобный, но выдуманный» ответ». Эксперт приводит тревожные примеры из медицинской сферы: «Исследование 2024 года показало, что в 22% случаев медицинские рекомендации ИИ содержали советы, которые могли привести к смерти пациента. Система путала противопоказания, рекомендовала несовместимые препараты, а в некоторых случаях даже советовала применять лекарства при беременности, хотя официальные инструкции это категорически запрещают».

«Опасность усугубляется тем, — продолжает Денис Рындин, — что ИИ формулирует ответы уверенно и без указания на степень неопределенности. Для пользователя, не обладающего специальными знаниями, такие рекомендации выглядят авторитетно. Мы наблюдаем аналогичные проблемы и в образовании, где около 30% решений математических задач содержат грубые ошибки, но подаются как абсолютно достоверные. В долгосрочной перспективе это может закрепить у учащихся ложные представления о научных принципах».

Возвращаясь к данным исследования ВШЭ, становится очевидным, что, несмотря на растущую популярность, широкому внедрению ИИ в образование препятствуют существенные барьеры. 23% респондентов отмечают недостаток доверия к нейросетям, 22% — отсутствие необходимых навыков работы с технологиями, еще 22% — недостаточную осведомленность о возможностях ИИ. При этом пользователи ценят в образовательных продуктах на основе ИИ экономию времени (33%), быстроту получения информации (29%), объективность алгоритма (20%) и психологический комфорт при общении с алгоритмом (16%).





В точку! Ведущий научный сотрудник Президентской академии, к. ф.-м. н Пётр Отоцкий приводит практические аспекты использования искусственного интеллекта: «Безусловно, сегодня российская ИИ-индустрия испытывает дефицит вычислительных мощностей из-за монополии на рынке чипов и санкционных ограничений. Однако глобальный тренд на аренду облачных мощностей как сервиса позволяет стартапам проверять гипотезы без капитальных вложений в оборудование. Для ускоренного внедрения ИИ в образование необходимо развитие национальной сети центров обработки данных, учитывающей как потребность в мощностях для нейросетей, так и региональные особенности энергообеспечения. При этом важно помнить, что ИИ — это прежде всего инструмент. При написании академических работ его можно использовать для черновой работы, но анализ и выводы должны оставаться авторскими».

Таким образом, запасаемся цифровой грамотностью, навыками фактчекинга и критическим мышлением. С такой корзиной умений можно смело, но осторожно внедрять ИИ в процесс создания контента и обучения. Но помните, что нейросеть не должна становиться автором вашего материала или исполнителем домашнего задания — иначе в дипломе тоже придется писать двух получателей