Vad händer med kunskapsproduktionen, kulturnäringarna och i förlängningen demokratin när AI-verktygen övergår från hjälpredor till producenter?

I våras höjdes tonläget angående riskerna med autoregressiva språkmodeller – det vill säga AI-genererade texter – framför allt nya ChatGPT4. Sedan dess har Italien som första europeiska land förbjudit verktyget och EU förbereder direktiv. Staden New York har bannlyst ChatGPT i skolorna.

Vad händer med kunskapsproduktionen, kulturnäringarna och i förlängningen demokratin när AI-verktygen övergår från hjälpredor till producenter?

I våras höjdes tonläget angående riskerna med autoregressiva språkmodeller – det vill säga AI-genererade texter – framför allt nya ChatGPT4. Sedan dess har Italien som första europeiska land förbjudit verktyget och EU förbereder direktiv. Staden New York har bannlyst ChatGPT i skolorna.

AI-framställd film, litteratur, musik, konst och design skakar om hela den kreativa näringen. I USA strejkar skådespelarna. De demokratiska processerna påverkas också. Så sent som häromdagen avslöjades att oppositionen i Polen spridit ett filmklipp med premiärministerns röst, falskt AI-producerad.

Så, ska vi gasa eller bromsa? Fysikern och AI-forskaren Max Tegmarks uppmärksammade Sommar i P1 fick kritik för dystopiska tongångar. Men det är svårt att ducka för huvudpoängen: Den snabba vägen mot superintelligens – AI som självständigt tänkande och agerande – kräver strategiska och etiska överväganden.

Hur ska konkurrensutsatta samhällssystem stå emot de ständiga effektiviseringar som AI-teknologin erbjuder? Diskussionen påminner om klimatkrisens tipping points, med exponentiellt accelererande och oåterkalleliga processer. Vem tar ansvar?

Jag hör kolleger vid universitetet mässa att vi inte ska rädas chattbotarna utan lära oss att använda dem. I så fall är det bråttom. I en YouTube-video från i somras visar Jonas Linderoth, professor i pedagogik vid Göteborgs universitet, kraften i de senaste betalversionerna. Själv har han tagit bort skriftliga hemtentor och menar att uppsatser bör ersättas av andra slutprov. Linderoth demonstrerar verktyget Jenni, som utifrån en inmatad frågeställning erbjuder en färdig uppsats inom några minuter.

Jag testar och ber Jenni skriva en text just om farorna med chattbotar inom högre utbildning. Genast föreslår verktyget en titel – ”Dangers of Chat Bots in Higher Education: A Critical Analysis” – och en disposition med underrubriker. Styckevisa resonemang rullar fram som jag kan godkänna eller revidera. Längs vägen föreslås referenser till källor som trålats genom för mig okända sökvägar.

Jenni-texten varnar oblygt för möjliga faror. Dit hör, förutom överdriven tilltro till teknologin som sådan, partisk och snedvriden programmering samt brister i datasäkerhet och personlig integritet. Studenternas lärprocesser, heter det, måste övervakas noga och användningen av chatverktyg måste vara frivillig.

Efter 500 ord tar det stopp. I en ruta erbjuder ”David” 10% rabatt på betalversionen av Jenni AI, och kvittrar: ”Excited to see what great content you’ll be writing!”. Jag har inte skrivit en rad själv men får hela äran.

Hur ska pedagoger använda chattbotarna när det som är tänkt att fungera som hjälpverktyg snarare erbjuder genvägar förbi intellektuellt grundarbete och kritiska överväganden? Kan studenterna motstå? Kan forskarna? Knappast. Kreativitet är ute och den vetenskapliga utvecklingen har avstannat, konstaterade en artikel i tidskriften Nature i januari. Dagens forskare reproducerar hellre än att söka efter nydanande upptäckter.

Strukturomvandlingar har vi visserligen genomlevt förut. Men det börjar bli dags att ställa några grundläggande frågor. Hur uppstår ny kunskap i ett system vars faktabas bygger på återbruk av befintligt (digitaliserat) material? Vilken typ av källkritik krävs när chattbotarna bygger vetenskapliga publikationer på material som det är upp till individen att spåra upp och granska ”i efterhand”?

Vad ska studenter lära sig när allt vi tror oss behöva veta bara är ett knapptryck bort? Något att fundera på när terminens första tenta närmar sig.