Преку 1.300 експерти од областа на вештачката интелигенција (ВИ) се приклучија на повикот за итно паузирање на создавањето на „џиновска“ ВИ на шест месеци, со цел можностите и опасностите од системите како GPT-4 да бидат соодветно проучени и избегнати.
Отвореното писмо досега е потпишано од повеќе големи инвеститори во ВИ, меѓу кои и Илон Макс, кој е коосновач на OpenAI, лабораторијата одговорна за создавање на ChatGPT и GPT-4, Емад Мустак, основачот на Stability AI и Стив Возниак, коосновачот на Епл.
„Бараме сите лаборатории на ВИ веднаш да го паузираат, на најмалку шест месеци, тренирањето на системи на ВИ кои се посилни од GPT-4. Оваа пауза мора да биде јавна и да може да се потврди и да ги вклучува сите клучни актери. Доколку таа пауза не биде воспоставена брзо, владите ќе се вклучат и ќе воведат мораториум“, стои во писмото.
Меѓу потписниците се и повеќе инженери од Амазон, ДипМајнд, Гугл, Мета и Мајкрософт, како и познати научници, професори и интелектуалци.
„Изминативе месеци лабораториите за ВИ беа фокусирани на неконтролирана трка за развој на најсилните дигитални умови кои никој, дури ниту нивните креатори, не можат да ги разберат, предвидат или соодветно да ги контролираат. Моќните системи на ВИ треба да бидат развивани само во оној момент кога ќе бидеме сигурни дека нивните ефекти ќе бидат позитивни, а нивните ризици ќе можат да се менаџираат“, стои во писмото.
Автрите го цитираат и коосновачот на OpenAI, Сем Алтман, во оправданоста на нивниот апел. Тој во објава во февруари напишал: „Во одреден период, можеби ќе биде важно да се добие независна анализа пред да започнеме да ги тренираме идните системи, а за најнапредните системи ќе мора да се согласиме да се лимитира нивото на раст кој се користи за создавање на нови модели“.
„Се согласуваме. Тој период е сега“, додаваат авторите на писмото.
По објавата на GPT-4, OpenAI додаде нови можности на системите на ВИ преку плагини, со што тие можат да прегледуваат податоци на интернетот, да планираат одмори или дури да набавуваат намирници. Авторите на писмото велат дека при експериментирање со GPT-4 во следните недели и месеци веројатно ќе се најдат нови можности за „убедување“ на системот, кој се подобрува преку решавање на тешки проблеми.
На пример едно од последните откритија беше дека ВИ моделот е особено поточен во одговарање прашања доколку првично му се каже тоа да го прави „во стил на експерт од областа“.
