Normal Name

Чат-бот ChatGPT: в ловушке искусственного интеллекта

ChatGPT — чат-бот с искусственным интеллектом стремительно ворвался в наш мир. Он может делать практически все. Только введите запрос, и он напишет вам школьное сочинение. Именно так сделал этот пользователь Twitter.

Chat GPT в состоянии сочинить песню и решить математическую задачу за несколько секунд. Однако некоторые пользователи предупреждают: приложение может создавать этические проблемы, особенно, когда речь идет о мошенничестве в академических кругах, или написании фальшивых новостных статей.

Но как узнать, сгенерировал ли текст, который вы читаете, искусственный интеллект? Этот вопрос мы задали Мухаммаду Абдул-Маджиду, эксперту по искусственному интеллекту.

Мухаммад Абдул-Маджид, Университет Британской Колумбии: «Слабым местом ChatGPT является то, что он обучен на устаревших данных 2021 или 2022 годов.  Например, он не сможет определить что-то, что произошло недавно, не сможет сказать вам, выиграла или не выиграла Франция Чемпионат мира по футболу в Катаре».

Вот и другие подсказки, на которые стоит обратить внимание. Если несколько человек зададут в ChatGPT один и тот же вопрос, он выдаст почти одинаковый ответ для каждого из них. 

Так что, если вы учитель и исправляете несколько заданий с одинаковыми данными, примерами или аргументацией, это может быть текст, сгенерированный искусственным интеллектом. 

Этот 22-летний студент разработал приложение под названием GPTZero, которое, как он утверждает, может определять, создан ли текст с помощью чат-бота. Но оно ненадежно. Почему? Ну, потому что сегодня просто не существует эффективных инструментов обнаружения таких текстов, объясняет Ирэн Сулейман, эксперт по политике в области искусственного интеллекта.

Ирен Сулейман, директор стартапа Hugging Face: «Волшебного решения для обнаружения следов искусственного интеллекта не существует. Программы становятся более совершенными, а модели по обнаружению искусственного интеллекта играют с ними в догонялки. Сложно сделать точный вывод о том, что является подлогом или сгенерировано искусственным интеллектом».

Возникает вопрос, что же теперь делать? Поскольку искусственный интеллект становится все более мощным, возможно, считают эксперты, пришло время пересмотреть подход к тестированию в школах, а также политику, которую должны проводить правительства с тем, чтобы данный инструмент не был использован с целью причинения реального вреда.

Нейро
Чат GPT с искусственным интеллектом смог успешно сдать выпускной экзамен
Новое  исследование (PDF), проведенное профессором Уортонской школы Пенсильванского университета, показало, что управляемый искусственным интеллектом чат-бот GPT-3 смог сдать выпускной экзамен по …
Нейро
Google ввела «красный код» и попросила Сергея Брина и Ларри Пейджа помочь в борьбе с чат-ботом ChatGPT
В прошлом месяце Сундар Пичаи ввел «красный код» в Google из-за стремительно развивающихся чат-ботов, ставших популярными всего за несколько месяцев. Ларри Пейдж и Сергей Брин, основатели Google, …