На философской конференции под названием «Математическое доказательство в эпоху ИИ», в которой я сейчас участвую, промелькнуло предположение, что OpenAI опубликовала свои «722 рукописи, сгруппированные в 372 семейства» прямо накануне конференции именно для того, чтобы посеять сумятицу в умах собравшихся философов и математиков. Впрочем, от этой гипотезы быстро отказались. Тем не менее, как нетрудно догадаться, избежать обсуждения содержимого репозитория на GitHub и его «влияния на использование искусственного интеллекта в математических исследованиях» (если цитировать подзаголовок конференции) было невозможно. Здесь все быстро сошлись во мнении со сдержанной оценкой из статьи в The New York Times: хотя в OpenAI и заявили, что «опирались на рекомендации [Консультативной группы по математике и искусственному интеллекту] и публичные отзывы при принятии решений о публикации этих результатов»,
OpenAI… судя по всему, гораздо меньше заинтересована в ключевой рекомендации консультативного совета — о том, что ИИ-компаниям следует прекратить тестирование своих проприетарных моделей на сложных математических задачах. «Мы хотим заявить с самого начала и со всей определенностью: мы не одобряем подобную практику», — написал совет 29 сентября.
Это лишь очередной эпизод в длинной череде недомолвок и нарушенных обещаний, начиная с самого названия компании, из-за которых имя OpenAI стало синонимом лицемерия.
Наблюдая за тем, как OpenAI разграбляет общее достояние математического сообщества, находясь на норвежском побережье, трудно не вспомнить набеги викингов на Линдисфарн и другие точки на побережьях Британии и Франции. Следующую фразу из препринта на arXiv можно было бы повторить десятки, если не сотни раз:
Этот результат также содержится в статье… опубликованной OpenAI 6 октября 2026 года, в которой стратегия доказательства и конкретные обозначения идентичны предварительной версии настоящей статьи, загруженной в ChatGPT 8 сентября 2026 года.
Моя собственная статья, написанная совместно с Чуботару, была использована в публикации, где заявлялось доказательство усиления нашего основного результата — а также основного результата совместной работы с Гайцгори и Лаффоргом, о котором объявлялось в докладе Сэма Раскина на Международном конгрессе математиков (ICM). Работа Раскина даже не была процитирована, а наша с Чуботару статья упоминалась в версии с arXiv. Все, что читателям нужно знать об этом: мы с Чуботару выложили наш препринт на arXiv под некоммерческой лицензией Creative Commons, как и авторы по меньшей мере 88 других статей, процитированных в репозитории OpenAI. Поскольку эти работы использовались для обучения коммерческих моделей OpenAI и цитировались в этом массовом сбросе статей, послужившем фоном для продолжающейся маркетинговой кампании OpenAI, я утверждаю, что компания нарушила наши авторские права.
Но это далеко не самый вопиющий проступок OpenAI. Две короткие реплики, только что опубликованные на сайте Proofs and Prompts, точно указывают на характер деструктивного влияния OpenAI на мировую математику:
Я не желаю участвовать в том, что в ряде случаев сводится к бесплатной рекламе и бесплатному рецензированию для OpenAI, способствуя распространению ложного нарратива о том, что эта компания якобы активно сотрудничает с математическим сообществом. Вторая причина заключается в том, что, организуясь подобным образом и в таких масштабах, мы негласно принимаем новое разделение труда: процесс производства доказательств может полностью оторваться от какого-либо понимания этих доказательств, а само это обесчеловеченное производство всё сильнее привязывается к гонке вычислительных мощностей.
(Александр Мартен)
Они могут попросту публиковать пачки статей объемом более 100 страниц, заявляя, что решили ту или иную задачу, причем зачастую с избыточными аргументами, невнятной логической структурой, множеством тупиковых ходов и странной или тревожной терминологией — иными словами, слоп [низкопробный мусорный контент]. А от нас ждут, что мы будем всё это разбирать, проверять, вычищать, упрощать и объяснять, что там вообще происходит.
Нам это обходится колоссальными затратами времени и сил, в то время как они могут просто двигаться дальше и своим слоп-бульдозером укатывать следующую гипотезу. И, разумеется, все лавры достанутся им. В каком-то смысле мы добровольно приближаем собственный конец.
Я считаю, что парадигма должна измениться. Мы должны предъявлять к математическим заявлениям, сгенерированным ИИ, те же стандарты строгости, ясности и изложения, которых мы требуем от статей, написанных людьми. Хотите одобрения математического сообщества? Знак признания? Тогда дайте нам то, что действительно можно прочесть и проверить. Если нет — мы должны это просто игнорировать.
Иными словами, я не считаю, что мы как сообщество должны тратить свое время на уборку за ними, лишь бы увеличивать чьи-то коммерческие доходы.
(Энрико Фатигенти)
Другими словами, OpenAI ожидает, что математическое сообщество отложит свои собственные приоритеты и посвятит время и силы проверке и разъяснению 722 статей OpenAI, тем самым низводя математиков по отношению к бигтеху до роли «механических турков» — сценарий, который я предсказывал чуть больше года назад.
Даже простое чтение статей OpenAI по моей специальности в поисках полезных новых идей, без каких-либо обязательств по доработке их аргументов или исправлению ошибок, означало бы согласие «занять отведенное мне место механического турка», как я писал в прошлом году. Оплата подобных услуг не сделала бы это более приемлемым — скорее наоборот. Как я написал вчера в ответ на вопрос журналиста:
Математик, который повел бы себя подобным образом [то есть как OpenAI], стал бы персоной нон грата в сообществе. Так почему уважающие себя специалисты должны помогать им оттачивать результаты или вообще хоть как-то ассоциироваться с ними?
С другой стороны, стратегия простого игнорирования этих статей, предложенная Энрико Фатигенти, не может быть жизнеспособным решением на индивидуальном уровне. Многие отклики, опубликованные на Proofs and Prompts и других площадках, призывают к коллективному ответу. Сможет ли математическое сообщество сплотиться ради такого ответа и какую форму он примет — покажет время.
=================================
Гнев Майкла понятен. Но что он может сделать? запретить??? - запретить делать математику? или запретить ее читать? или не обращать внимание? - ну так он повторяет путь скандального Крамника, чемпиона - когда он не смог играть с детьми он объявил их читерами и кое-кто погиб. Сделал дело - гуляй смело. вот принцип для тех кому за 50. От почитаемых Бурбаков, между прочим.
Комментариев нет:
Отправить комментарий