Språkmodellerna saknar mänskliga förmågor

Kvartal intervjuade matematikprofessor Olle Häggström som är djupt oroad över att de stora språkmodellerna inom några få år kan komma att förinta mänskligheten. Min kommentar:

Jag ser många faror med de nya AI-verktygen (de stora språkmodellerna): arbetslöshet, fördumning när maskinerna tänker allt mer åt oss, ekonomisk kollaps om/när bubblan spricker, en ökande svårighet att skilja verkliga från genererade inspelningar av ljud och bild, med mycket mera.

Men Häggströms scenario har jag oerhört svårt att se framför mig. Språkmodellerna saknar det som krävs för att detta ska bli verklighet: agens, egenintresse, kreativitet, medvetande. Människan har allt detta, maskiner har det inte.

Häggström talade om att språkmodellerna nu börjat få agentiska egenskaper. Och visst handlar väldigt mycket om “agentic AI” just nu. Men det enda som hänt är att människan skapat programvara som interagerar med språkmodellerna. Den eventuella “agens” dessa så kallade agenter har kommer helt ur de möjligheter som programmerare skapat i de programmen.

Språkmodellen förblir en deterministisk algoritm som förutsäger nästa ord givet en viss kontext. Och som sådan har den ingen förmåga, åtminstone i sig själv, att förinta mänskligheten. Den kreativitet och intelligens vi varseblir hos språkmodellen är endast ett sken, det handlar verkligen bara om artificiell intelligens.

Jag föreslår att Kvartal till nästa samtal om dessa språkmodeller (som verkligen förtjänar fördjupning) bjuder in medvetandefilosofer för att prata om det fortfarande så mystiska medvetandet. Vetenskapen har inte lyckats att beskriva det unikt mänskliga i rent materiella termer. Tänk bara på en så enkel sak som uttrycket 2 + 2 = 4. Både siffrorna och den matematiska lagen existerar helt oberoende av människan utan att vara materiella föremål. Jag tar upp detta bara för att indikera att måhända även djupt mänskliga egenskaper som agens och kreativitet inte kan reduceras till materia.