Якоб Цимерман, 38 років, переконаний, що штучний інтелект невдовзі обжене людських математиків і зможе в сотню разів прискорити розвиток галузі. Для цього він переходить до OpenAI, де зосередиться на питаннях безпеки.
Ключові тези:
- Цимерман очікує, що системи ШІ перевершать людей у дослідницькій математиці, змусивши спільноту переосмислити принципи роботи дисципліни.
- Він бере відпустку з Торонтського університету, зберігаючи свою професорську посаду.
- У OpenAI він працюватиме над безпекою моделей, а не над нарощуванням їхніх можливостей.
Чому Якоб Цимерман переходить в OpenAI
В інтерв’ю, опублікованому у п’ятницю, теоретик чисел з University of Toronto описав зсув, що відчутно прискорився останніми місяцями. Спочатку моделі почали впевнено розв’язувати олімпіадні задачі для школярів, каже він, а вже за кілька місяців узялися за результати дослідницького рівня. Моделі, які донедавна спотикалися на елементарних питаннях, нині видають докази, якими могли б пишатися професійні математики й подавати до провідних журналів.
Якщо динаміка збережеться, Цимерман очікує, що ШІ стане стабільно кращим за людей у тій роботі, яку нині виконують математики. У цей момент, вважає він, спільноті доведеться радикально переглянути, як влаштована вся система досліджень у математиці.
Про перехід до OpenAI він уперше повідомив 23 липня, за кілька годин після того, як Міжнародний математичний союз оголосив його одним із чотирьох лауреатів цьогорічної медалі Філдса за роботу над гіпотезою Андре – Уорта. Нагорода, яку раз на чотири роки вручають математикам до 40 років, цього разу також дісталася Хонґ Вану, Ю Денгу та Джону Пардону. Цимерман бере відпустку з кафедри в Торонто, але посаду зберігає й визнає, що не має чіткого плану далі, ніж на рік уперед.
Читайте також: Біткоїн-ETF залучили $233,1 млн, один фонд дав левову частку припливу
Терренс Тао попереджає про кризу в математиці
Терренс Тао заявив на тому ж конгресі у Філадельфії минулими вихідними, що математика входить у бурхливий період, який він охарактеризував як кризу фундаментів дисципліни та її професійних цінностей.
Він навів експеримент, проведений у травні: найпотужніші моделі розв’язали сім із десяти неопублікованих дослідницьких задач, а експерти перевірили докази на коректність і визнали їх придатними до друку. Цимерман бачить у цьому й потужну можливість. Тісніший зв’язок між «чистою» математикою та її застосуваннями може стиснути процес, який раніше забирав десятиліття, й збільшити вихід «корисної» математики у 100 разів.
Цимерман стає на бік руху за безпечний ШІ
У OpenAI він відповідатиме саме за безпеку, а не за нарощування можливостей моделей. На його думку, з «капаціті» індустрія й так рухається досить швидко, тоді як у сфері безпеки — значно більше «білих плям» і набагато менше людей, які цим займаються системно.
Такий фокус для нього не новий. Торік він співавторував звіт разом з Ендрю Крітчем, де ризики вимирання людства через ШІ були розбиті на п’ять сценаріїв — залежно від того, хто й в якій мірі ніс би за це відповідальність.
Цього тижня він також публічно підтримав відкритий лист, який підписали понад 1000 співробітників OpenAI, Anthropic, Google та Meta, у тому числі CEO Anthropic Даріо Амодей. Автори листа закликали Вашингтон очолити міжнародні зусилля з контролю темпів розвитку «фронтирного» ШІ.
Далі по темі: Трейдери Polymarket дають Людині-павуку 91% шансу на історичний дебют