25-те най-велики математици в света предупреждават за заплахата от ИИ

25 от водещите световни математици - всички носители на медала "Филдс" (еквивалент на Нобеловата награда в математиката) - подписаха съвместно писмо, в което обръщат внимание на "навлизането" на изкуствения интелект в сферата на математиката. Според тях решаването на някои от най-трудните математически задачи с помощта на изкуствен интелект всъщност вреди на областта, тъй като целта не е толкова намирането на решение, колкото обсъждането на идеи и разбирането на методите, водещи до крайния резултат.

Те призовават компаниите, разработващи изкуствен интелект, да обсъдят тези въпроси с учени не само от областта на математиката, но и от други сфери, които ще се сблъскат с подобни проблеми в много други форми на интелектуален труд."

"Горд съм, че съм сред първоначалните 25 подписали се - всички носители на медала "Филдс" - под изявлението по-долу, което се роди от дискусиите ни през изминалата седмица", написа математикът Терънс Тао в блога си, където публикува и текста на писмото.

Той изразява съжаление, че не е имало време за по-продължително обсъждане, предвид това, че "спешността на ситуацията изискваше публикуването на изявление възможно най-скоро", и кани други математици да се присъединят към писмото. Текстът, публикуван под заглавието "Сериозно разминаване в ролята на изкуствения интелект в математиката", по същество гласи, че решаването на най-трудните математически задачи с помощта на изкуствен интелект (ИИ) сериозно вреди на областта, тъй като лишава учените от мотивацията, заради която извършват изследвания на най-високо ниво: любопитството, сложността, предизвикателството да се намерят решения на задачи и да се преодолеят нови граници.

"Най-ценните ресурси на нашата професия са нашите студенти и нашите идеи", пишат подписалите писмото.

Решаването на задачи чрез огромната изчислителна мощ на изкуствения интелект обаче вече не им дава възможност да обсъждат и развиват идеи и концепции.

"Решаването на задачи е само инструмент и междинен показател за постигане на основната цел: концептуално разбиране и дълбоко прозрение. Забравянето на това в ерата на изкуствения интелект може да обърне инструмента срещу първоначалното му предназначение", отбелязват още 25-имата математици. "Ние сме свидетели на обща заплаха за интелектуалния труд", посочват те, като допълват, че обучението в дадена област има за цел "не просто да се получи отговор или краен продукт, а да се развият разбирането и способността за формулиране на нови въпроси и идеи".

По-долу е представен пълният текст на писмото:

"През последните няколко месеца математическите способности на езиковите модели (LLM) се подобриха драстично, достигайки етап, в който те могат да решават важни нерешени проблеми в много области на математиката. Въпреки това, натискът от страна на компаниите за изкуствен интелект (ИИ) да се решават математически задачи просто като критерий за оценка (бенчмарк) е вреден за областта на математиката и за математическата общност. Целите на компаниите за ИИ и тези на математическата общност са фундаментално несъвместими.

Ние разглеждаме тези проблеми като част от по-широки въпроси за съгласуваността на целите и ценностите, които засягат и други научни и творчески професии, както и обществото като цяло. Математическите изследвания са насочени към разбирането на фундаменталните структури на формите, числата и природните явления.

В продължение на поколения са създадени огромен брой идеи, методи, абстракции и други сложни инструменти за разгадаване на математическия пейзаж. Съвременните технологии и науки, от своя страна, разчитат на тези математически инструменти. Известни проблеми често са служили като ориентири и маяци, чрез които се измерва задълбочаването на разбирането в областта.

Решаването на такъв проблем винаги е било ясен знак за появата на интересни нови перспективи и методи, които след това са били изучавани от общността чрез дълъг и задълбочен процес, включващ конференции, дискусии и опростяване на концепциите. В края на този път идеалният резултат е бил академично представяне, подходящо за изучаване от всеки студент в магистърска или дори бакалавърска програма. Някои математически идеи продължават пътя си, за да се превърнат - след десетилетия или векове - в инструменти, разбирани и използвани от цялото общество.

Математическата общност функционира в много отношения като умален модел на човечеството

Тя се състои от личности, използващи голямо разнообразие от подходи, но обединени от фундаментални ценности. Най-ценните ресурси на нашата професия са нашите студенти и техните идеи, като ние ги развиваме с голяма грижа. Чувстваме отговорност да им помогнем да разгърнат пълния си потенциал, докато не станат способни на самостоятелна дейност в математическия свят. Често поставяме задачи на студентите с основната цел да развием уменията, необходими за напредък в научните изследвания и други области. Ние разпространяваме идеите си чрез лекции, лични дискусии и прецизно изготвени писмени трудове, като ги свързваме с предходни идеи на други изследователи. Тези процеси неизбежно изискват време и разчитат на човешкото общуване.

През последните месеци успехът на ИИ при решаването на важни математически проблеми привлече вниманието на широката общественост, извън тесните математически среди. Но решаването на задачи е само .инструмент и междинен показател за постигане на основната цел: концептуално разбиране и задълбочен поглед.

Пренебрегването на този факт в ерата на изкуствения интелект може да обърне инструмента срещу първоначалното му предназначение. Всъщност, масовото и все по-ускорено генериране на твърдения от типа "вярно/невярно" би могло да унищожи плодородната почва, вместо да вдъхне живот на нови идеи.

Често тези решения се оповестяват прибързано, без да се отдели време за подходяща редакция, за обособяване на новите методи и идеи или за цитиране на значими предходни трудове на други изследователи. Както във всички творчески професии, това повдига сериозни въпроси относно авторството и плагиатството. Нещо повече - без отдадените математици, които трябва да се заемат с тяхното разработване и интегриране в математическия канон, идеите, породени от изкуствения интелект, никога не биха се реализирали напълно, а жизненоважната верига на приемственост между математиците би се прекъснала.

Ставаме свидетели на обща заплаха за интелектуалния труд, породена от разминаването между резултатите от използването на изкуствения интелект и първоначалната му цел. В много области и дейности дългогодишното обучение традиционно е служило не само за получаване на отговор или краен продукт, но и за изграждане на разбиране и способност за формулиране на нови въпроси и идеи.

Въпреки това, стъпвайки върху огромния обем от натрупан човешки опит, системите с изкуствен интелект все по-често успяват директно да генерират резултатите от такъв труд, което води до разминаване на тези цели. Проблемите, пред които е изправена математическата общност днес, са сходни с тези в други научни и творчески професии и предвещават предизвикателства, с които цялото човечество може да се сблъска: как да гарантираме, че докато изкуственият интелект променя начина, по който се извършва дадена дейност, няма да изгубим от поглед първоначалната цел на тази дейност.

Изкуственият интелект предлага възможност за подобряване и ускоряване на изучаването и разбирането на същинската математика. Математиката като професия ще трябва да се адаптира към тези промени по различни начини. Дали обаче тези трансформации ще донесат полза на областта, или ще имат разрушителен ефект, зависи до голяма степен от решенията на хората, които контролират тази нова технология.

Тези въпроси изискват спешно внимание както от страна на математическата общност и компаниите, разработващи тези технологии, така и - в по-широк план - от обществото, което ще се сблъска с подобни проблеми в много други сфери на интелектуалния труд.

Подписалите писмото: Артур Авила (Медал на Фийлдс 2014) Манджул Бхаргава (Медал на Фийлдс 2014) Каучер Биркар (Медал на Фийлдс 2018) Пиер Делинь (Медал на Фийлдс 1978) Ю Ден (Медал на Фийлдс 2026) Саймън Доналдсън (Медал на Фийлдс 1986) Уго Думинил-Копен (Медал на Фийлдс 2022) Алесио Фигали (Медал на Фийлдс 2018) Мартин Хайрер (Медал на Фийлдс 2014) Джун Хъ (Медал на Фийлдс 2022) Максим Концевич (Медал на Фийлдс 1998) Елон Линденщраус (Медал на Фийлдс 2010) Пиер-Луи Лайънс (Медал на Фийлдс 1994) Джеймс Мейнард (Медал на Фийлдс 2022) Кърт Макмълън (Медал на Фийлдс 1998) Шигефуми Мори (Медал на Фийлдс 1990) Ngô Bảo Châu (Медал на Фийлдс 2010) Андрей Окунков (Медал на Фийлдс 2006) Петер Шолце (Медал на Фийлдс 2018) Станислав Смирнов (Медал на Фийлдс Медал 2010) Терънс Тао (Медал на Фийлдс 2006) Марина Виазовска (Медал на Фийлдс 2022) Седрик Вилани (Медал на Фийлдс 2010) Венделин Вернер (Медал на Фийлдс 2006) Ефим Зелманов (Медал на Фийлдс 1994)