Якоб Цимерман, 38 лет, считает, что ИИ в ближайшее время обгонит человеческих математиков и сможет ускорить развитие их области в 100 раз. Ради работы над безопасностью он уезжает в OpenAI.
Главное:
- Цимерман ожидает, что системы ИИ обойдут людей в исследовательской математике, вынудив дисциплину пересмотреть свои подходы.
- Он берет отпуск в Университете Торонто, но сохраняет профессорскую должность.
- В OpenAI он сосредоточится на безопасности, а не на наращивании возможностей моделей.
Почему Якоб Цимерман переходит в OpenAI
В интервью, опубликованном в пятницу, специалист по теории чисел из University of Toronto описал сдвиг, который, по его словам, стал очевиден в последние месяцы. Сначала под натиском моделей пали олимпиадные задачи для школьников, а спустя считаные месяцы — и исследовательские результаты. Модели, которые раньше спотыкались на элементарных вопросах, теперь выдают доказательства уровня статей, которыми могли бы гордиться профессиональные математики.
Если эта динамика сохранится, он ожидает, что ИИ станет устойчиво сильнее людей в том виде работы, который сегодня выполняет профессия. В этот момент, подчеркивает он, математикам придется переосмыслить, как устроена вся область.
О своем переходе он впервые сообщил 23 июля — всего через несколько часов после того, как Международный математический союз назвал его одним из четырех лауреатов медали Филдса за доказательство гипотезы Андре–Уорта. Престижная награда, которая вручается раз в четыре года математикам младше 40 лет, в этот раз также досталась Хонгу Вану, Ю Дэну и Джону Пардону. Цимерман берет отпуск в департаменте математики Торонто, но сохраняет ставку, и признается, что у него нет четкого плана дальше ближайшего года.
Также по теме: Bitcoin ETF поглотили $233,1 млн, один фонд дал львиную долю притока
Терренс Тао предупреждает о кризисе в математике
Терренс Тао на том же конгрессе в Филадельфии на прошлой неделе заявил, что математика входит в турбулентный период, который он описал как кризис фундаментальных оснований и профессиональных ценностей дисциплины.
Он сослался на эксперимент, проведенный в мае, когда передовые модели решили семь из десяти неопубликованных исследовательских задач. Доказательства проверялись экспертами и были признаны корректными и достойными публикации. Цимерман видит в этом не только угрозы, но и серьезный плюс: более плотная связка между чистой математикой и ее приложениями может сжать процессы, которые исторически занимали десятилетия, и увеличить выпуск «полезной математики» примерно в 100 раз.
Цимерман делает ставку на безопасность ИИ
Его собственный мандат в OpenAI — это безопасность, а не новые возможности. По его словам, прогресс по части «капа-билити» идет и без него, тогда как в сфере безопасности остаются огромные пробелы и явно не хватает людей.
Этот фокус для него не нов. В прошлом году он вместе с Эндрю Кричем подготовил доклад, в котором попытался классифицировать сценарии вымирания человечества из‑за ИИ по пяти категориям в зависимости от того, кто и в какой мере нес бы ответственность.
На этой неделе он также поддержал открытое письмо, которое более 1 000 сотрудников OpenAI, Anthropic, Google и Meta подписали, включая главу Anthropic Дарио Амодеи. В письме они призвали Вашингтон поддержать международные усилия по контролю темпов развития передового ИИ.
Читайте далее: Трейдеры Polymarket дают «Человеку‑пауку» 91% шансов на рекордный дебют