Strawberry – “думающая” нейросеть, окутанная тайной. OpenAI грозит блокировкой за интерес к новой нейросети Strawberry.
Пользователи социальных сетей начали получать от OpenAI предупреждения о возможной блокировке доступа к нейросетям семейства GPT. Причина – возросший интерес к алгоритмам работы новой версии искусственного интеллекта под кодовым названием Strawberry.
Напоминаем, особенность “Strawberry” заключается в том, что модель при ответах берет паузу на 10-20 секунд, чтобы обдумать запрос. Это нововведение повысит точность ответов и улучшит работу с задачами, требующими сложного или многошагового анализа. Технический директор OpenAI Миру Мурати назвала это “новой парадигмой” в развитии данной технологии. Также в отличие от современных моделей, которые в основном полагаются на распознавание образов в своих обучающих данных, OpenAI Strawberry, как говорят, способен к:
- Планированию сложных задач наперед
- Автономной навигации в Интернете
- Выполнение того, что OpenAI называет “глубоким исследованием”
Однако, первые тестировщики выявили и некоторые недостатки
Модель, которая пока поддерживает только текстовый формат, может слишком долго отвечать на простые вопросы, что не всегда оправдано. Еще одно заявленное улучшение – это запоминание предыдущих разговоров для персонализированных ответов, но эта функция пока работает не всегда стабильно.
Також разработка таких передовых инструментов ИИ также вызывает значительные этические соображения:
- Опасения относительно конфиденциальности – Как эти системы искусственного интеллекта будут обрабатывать конфиденциальные личные данные, с которыми они сталкиваются во время исследования?
- Предвзятость и справедливость – Как мы можем гарантировать, что на рассуждения искусственного интеллекта не будут влиять предубеждения, присутствующие в его учебных данных или результатах поиска?
- Отчетность – Кто несет ответственность, если решение, управляемое ИИ, наносит вред?
Еще остаются технические проблемы. Обеспечение надежности и точности информации, собранной автономно, имеет решающее значение. ИИ также должен уметь различать надежные и ненадежные источники, а это задача, с которой даже люди часто сталкиваются. Кроме того, вычислительные ресурсы, необходимые для таких передовых возможностей рассуждения, вероятно, будут значительными, что вызывает вопросы о потреблении энергии и воздействии на окружающую среду.
“Strawberry” будет интегрирована в ChatGPT, но как отдельная опция. Модель также будет предлагаться по новой системе ценообразования с ограничениями на количество сообщений в час, а платные пользователи ChatGPT Plus смогут получить ранний доступ.
В OpenAI заявили, что вынуждены скрывать детали работы Strawberry, опасаясь, что пользователи получат доступ к “глубинным” мыслительным процессам ИИ и узнают о конфиденциальной информации. Компания не скрывает своего стремления сохранить конкурентное преимущество и не намерена раскрывать секреты Strawberry. Пользователи видят лишь результат “рассуждения” нейросети, без объяснения процесса принятия решений.
Такая политика противоречит прежним заявлениям OpenAI о создании систем искусственного интеллекта с открытым исходным кодом и прозрачными принципами работы. Предупреждение о блокировке можно получить даже за использование слова “рассуждения” в запросе к Strawberry, независимо от контекста. Возникает парадоксальная ситуация: если заказчик не понимает “ход мыслей” нейросети и не может проверить правильность ее рассуждений, ему сложно довериться результатам ее работы.
Кстати, компания OpenAI планирует значительное повышение стоимости премиум-подписки на ChatGPT. Цена может увеличиться с $20 до $2000, хотя пока не известно, будет ли это ежемесячная или годовая оплата.
Одной из причин повышения называют необходимость финансовой стабильности компании, которая тратит около $700 тысяч в день на поддержку работы ChatGPT.
Выводы
Поскольку модели искусственного интеллекта продолжают развиваться, мы можем ожидать появления более сложных программ в таких сферах, как научные исследования, анализ рынка и разработка программного обеспечения. Погоня за искусственным общим интеллектом усиливается, и каждый прорыв приближает нас к системам искусственного интеллекта, которые могут действительно понимать мир и взаимодействовать с ним способами, которые ранее считались невозможными.