OpenAI приостановили обучение GPT-5 и не будут её обучать какое-то время
Генеральный директор Сэм Альтман опроверг слухи о том, что OpenAI уже разрабатывает GPT-5.
В ходе дискуссии об угрозах, создаваемых системами искусственного интеллекта, Сэм Альтман, генеральный директор и соучредитель OpenAI, подтвердил, что компания в настоящее время не обучает GPT-5, предполагаемого преемника своей языковой модели GPT-4, выпущенной в марте этого года.
Выступая на мероприятии в MIT, Альтмана спросили о недавнем открытом письме, в котором предлагалось, чтобы лаборатории, подобные OpenAI, приостановили разработку систем искусственного интеллекта "более мощных, чем GPT-4”. В письме выражена обеспокоенность по поводу безопасности будущего.
Эксперты расходятся во мнениях о природе угрозы, исходящей от ИИ (экзистенциальная она или более приземленная?), а также о том, каким образом отрасль теперь может взять “паузу”.
В MIT Альтман сказал, что в письме “отсутствует большинство технических нюансов о том, где нам нужна пауза”, и отметил, что там утверждалось, что OpenAI в настоящее время обучает GPT-5. “Мы не обучаем и не будем обучать эту модель в течение некоторого времени”, - сказал Альтман. “Так что в этом смысле такое писать было довольно глупо”.
Однако то, что OpenAI не работает над GPT-5, не означает, что он не расширяет возможности GPT-4. “Мы делаем другие вещи в дополнение к GPT-4, которые, я думаю, связаны с проблемами безопасности, которые важно решать, и которые даже небыли описаны в том письме”, - сказал он.
Шумиха вокруг GPT и ошибочность номеров версий
Комментарии Альтмана интересны не только тем, что они раскрывают планы OpenAI на будущее. Вместо этого они подчеркивают значительную проблему в дебатах о безопасности ИИ: сложность измерения и отслеживания прогресса.
Некоторая путаница есть в нумерации моделей. Многие думают, что пронумерованные технические обновления отражают определенные и линейные улучшения возможностей. Это заблуждение, которое годами культивировалось в мире потребительских технологий, где номера, присвоенные новым телефонам или операционным системам, претендуют на улучшение продукта, но на самом деле являются всего лишь маркетинговыми инструментами. “Ну, конечно, iPhone 35 лучше, чем iPhone 34”, - следует из этой логики. “Чем больше число, тем телефон лучше”.
Из-за совпадения миров потребительских технологий и искусственного интеллекта эта же логика теперь часто применяется к системам, подобным языковым моделям OpenAI.
Поскольку многие заявления из социальных сетей об усилении сверхразума в каждой новой версии ИИ по сути не поддаются проверке, журналисты и блогеры полагаются на подобную риторику, чтобы донести свою точку зрения (о росте сверхразума). Они рисуют расплывчатые графики с осями, помеченными как “прогресс” и “время”, прокладывают линию, идущую вверх и вправо, и представляют это это в качестве доказательства.
Это не означает, что надо отвергнуть опасения по поводу безопасности применения искусственного интеллекта или игнорируем тот факт, что эти системы быстро совершенствуются и не полностью находятся под нашим контролем.
Вместо этого, основное внимание в этих обсуждениях должно быть уделено возможностям: демонстрации того, что могут и чего не могут делать эти системы, и прогнозам того, как это может измениться со временем.
Вот почему подтверждение Альтмана о том, что OpenAI в настоящее время не разрабатывает GPT-5, не принесет никакого утешения людям, обеспокоенным безопасностью ИИ. Компания по-прежнему расширяет потенциал GPT-4 (подключая его к Интернету, например), а другие компании в отрасли создают аналогичные амбициозные инструменты, позволяющие системам искусственного интеллекта действовать от имени пользователей. Также, без сомнения, ведется всевозможная работа по оптимизации GPT-4, и OpenAI может сначала выпустить GPT-4.5 (как это было с GPT-3.5) — и это еще один способ, которым номера версий могут ввести в заблуждение.
Даже если бы правительствам мира каким-то образом удалось ввести запрет на новые разработки в области искусственного интеллекта, ясно, что системы, доступные в настоящее время уже безвозвратно проникли в жизнь общества.
Даже если GPT-5 не появится так быстро, как мы думали, имеет ли это значение, когда GPT-4 все еще не до конца понят?
