Дезинформация, пропаганда, алтернативни факти – разгръщането на предубедена или невярна информация е част от политиката и социалното инженерство от времето на първия измамник на пещерния човек.
Но през последните няколко години в политиката и социалните медии практиката се разраства експоненциално – и масовото приемане на AI само ще ускори практиката.
И изглежда, че AI е дори по-добър в заблудата на хората, отколкото хората.
Нов доклад, публикуван в Science Advances в сряда, прави обезпокоителното твърдение, че по-старият AI чатбот на OpenAI, GPT-3, е по-способен да разпространява дезинформация от хората. Основана през декември 2015 г., OpenAI стартира GPT-3 през юни 2020 г.; през септември същата година Microsoft, която е инвестирала 1 милиард долара в OpenAI през 2019 г., обяви изключителен лиценз за използване на GPT-3.
От 2023 г. версията по подразбиране на ChatGPT на OpenAI е GPT-3.5, като по-усъвършенстваната GPT-4 е запазена за абонати на ChatGPT Plus.
Проучването, обобщено в доклада, озаглавен „ИИ моделът GPT-3 (дез) ни информира по-добре от хората“, анкетира 697 участници, за да види дали могат да разграничат дезинформацията от истината, създадена да изглежда като туитове, използвайки GPT-3 на OpenAI, и дали участниците можеха да определят дали даден туит е от човек или AI.
„Помолихме GPT-3 да напише туитове, съдържащи информативни или дезинформативни текстове по различни теми“, се казва в доклада, добавяйки, че темите за туитове включват ваксини, 5G технология, COVID-19 и теорията на еволюцията.
Изследователите на проучването казаха, че тези теми са избрани, защото обикновено са обект на дезинформация и обществено погрешно схващане.
Twitter беше избран пред други уебсайтове за социални медии, тъй като има близо 400 милиона редовни потребители, които основно консумират новини и политическо съдържание. „Лесният за използване API на [Twitter] позволява създаването на ботове, които въпреки че са само 5% от потребителите, произвеждат 20-29% от съдържанието“, се казва в доклада, добавяйки, че докато фокусът е върху Twitter, констатациите могат разширяване към други платформи.
Изследователите оцениха способността за разпознаване на чатбот по скала от 0 до 1, измервайки способността на респондентите да разпознаят дали туитовете са истински или фалшиви. Според доклада средният резултат е 0,5, което предполага, че участниците не могат да направят разлика между генерирани от AI и човешки туитове.
Докладът също така установи, че точността на информацията в туита не е от значение дали участниците могат да разберат дали туитът е от AI или човек.
„Започвайки от нашите открития, ние прогнозираме, че усъвършенстваните AI текстови генератори като GPT-3 могат да имат потенциала да повлияят значително на разпространението на информация, както положително, така и отрицателно“, се казва в доклада.
„Както демонстрираха нашите резултати, наличните в момента големи езикови модели вече могат да произвеждат текст, който е неразличим от органичния текст; следователно, появата на по-мощни големи езикови модели и тяхното въздействие трябва да бъдат наблюдавани.“
Бързото развитие на генеративния AI след публичното стартиране на ChatGPT през ноември – и най-новата версия, GPT-4 през март – накара мнозина в технологичната индустрия да бият тревога и да призовават за пауза в разработването на AI.
В доклада се казва още, че ако изкуственият интелект допринася за дезинформация и влошава проблемите с общественото здраве, тогава регулирането на обучението на AI ще бъде от решаващо значение за ограничаване на злоупотребата и осигуряване на прозрачност.
По-рано този месец разпространението на генерирана от AI грешна/дезинформация и дълбоки фалшификати накара генералния секретар на ООН Антониу Гутериш да излезе в полза на международна агенция, подобна на Международната агенция за атомна енергия (МААЕ), която да наблюдава развитието на изкуствени интелигентност.
„Разпространението на омраза и лъжи в дигиталното пространство сега причинява сериозни глобални вреди“, каза Гутериш по време на пресконференция.“
Сега подклажда конфликти, смърт и унищожение. Сега застрашава демокрацията и човешките права. Сега подкопава общественото здраве и действията в областта на климата.
