21 листопад 2024
Штучний інтелект на межі: стартапи шукають нові шляхи масштабування
Майбутня модель ШІ від OpenAI, за словами джерел видання The Information, покаже менш відчутний приріст продуктивності в порівнянні з попередніми версіями. Згідно з опублікованими даними, модель Orion досягла рівня GPT-4 після проходження лише 20% навчання. Це свідчить про те, що GPT-5 не зможе так суттєво перевершити GPT-4, як це сталося з GPT-3 при переході до GPT-4. «Orion не демонструє суттєвих переваг у виконанні певних завдань. Вона добре справляється з мовними задачами, але не перевершує попередні моделі у програмуванні», — зазначають співробітники стартапу. Зазвичай найбільші покращення у нейромережах спостерігаються на початкових етапах навчання. Далі прогрес поступово уповільнюється. За словами джерел The Information, залишок у 80% часу навчання наврядчи принесе відчутний стрибок у продуктивності. ШІ досягнув своїх меж Недавні результати OpenAI, що не вирізняються оптимізмом, висвітлюють більш глобальну проблему: нестачу якісних даних для навчання. У дослідженні, опублікованому в червні, експерти заявили, що...