Det är texten som publiceras på Dagens Nyheters ledarsida. Redaktionens politiska ställning är oberoende och liberal.
Under de senaste två åren har antalet påhittade referenser i den biomedicinska vetenskapslitteraturen ökat med 1 100 procent. Det visar en ny studie publicerad i den medicinska tidskriften The Lancet. Det innebär att forskare kommer att använda AI-hjälp som Chat GPT för att skriva uppsatser och skapa referenslistor.
Dessa AI-tjänster är byggda för att alltid ha ett svar. Därmed inte sagt att studier om sambandet mellan till exempel kolesterolnivåer och plötslig spädbarnsdöd inte kan hittas; dessa verktyg utgör en helt akustisk förening. Ange författare, år och publiceringsort. Allt kom från ingenting.
Trots de välkända riskerna verkar ett växande antal forskare tycka att det är värt chansen. Enligt en studie i Nature publicerades tiotusentals vetenskapliga artiklar 2025 innehållande falska referenser kallade Frankenquotes. Liksom Mary Shelleys forskare blandar stora språkmodeller ihop data för att se ut som riktiga referenser, och när någon använder dem kommer de till liv.
Utan trovärdighet förlorar vetenskapen sitt värde. Vem kan lita på en vetenskapsman som inte ens kontrollerar sina källor?
För de falska omnämnandena kommer att spridas vidare. En brittisk medie- och teknikforskare upptäckte en hänvisning till en påhittad artikel som han påstod sig ha skrivit och insåg vid ytterligare undersökning dystert att den påhittade artikeln hade citerats nästan 140 gånger. ”Jag får mer uppmärksamhet för det jag inte skriver än för det jag faktiskt gör.”
Systemet med vetenskapliga publikationer har funnits i hundratals år. Detta kan inte bara ses som ett akademiskt ekosystem, utan också som en illustration av hur kollektiv kunskap fungerar. Enskilda forskare bygger vidare på tidigare arbete, hänvisar till andra forskare och redovisar öppet sina egna förhållningssätt. På så sätt kan mängden kunskap ständigt ackumuleras, fel kan korrigeras och områden kan expandera eller försvinna.
Visst fanns det dåliga studier och tvivelaktiga metoder redan innan dess. Men mängden material som förfalskats av AI är som ett gift som släpps ut i denna kunskapsflod som hotar att förstöra allt. Utan trovärdighet förlorar vetenskapen sitt värde. Vem kan lita på forskare som inte ens kontrollerar sina källor? Hur ska vi andra veta vilka forskare som fortfarande forskar och vilka som förlitar sig på Chat GPT?
Men det är inte bara inom vetenskapen som lockelsen med AI förstör människors sinnen. Förra veckan tillkännagav Sydafrika en ny nationell AI-policy. Det visar sig dock att det inte bara handlade om AI, det producerades av AI med hänvisning till obefintlig forskning. Frankensteins AI-policy. Det passar fortfarande.
läs mer:
Isabel Hadley-Kumpts: Sverige är det enda landet med konservativa – skjuter kanoner när kulturarvet faller sönder
DN-redaktionen: SD-röstkupp är inget oskyldigt skämt – det är det som står på spel
