Geoffrey Hinton er ikke en mand, der mangler meninger. Den britisk-canadiske forsker modtog i 2024 Nobelprisen i fysik for sit grundlæggende arbejde med kunstige neurale netværk — og forlod efterfølgende Google for at advare verden om de risici, han selv havde været med til at skabe.

Fra neural netværk til bevidsthedsforskning

I et interview med DR fortæller Hinton om sin fascinerende intellektuelle rejse fra matematisk modellering af hjernens læringsprocesser til dybere spørgsmål om, hvad bevidsthed overhovedet er.

Hans tese er provokerende: Vi forstår ikke bevidsthed. Vi forstår ikke, hvad det vil sige at have en subjektiv oplevelse. Og det er præcis dette hul i vores viden, der gør AI-debatten så vanskelig.

Kan AI have oplevelser?

Hinton holder fast i, at han ikke ved, om moderne sprogmodeller som GPT eller Gemini har en form for bevidsthed. Han afviser det ikke. Det er præcis det, der bekymrer ham — fordi vi heller ikke har en god definition på, hvad vi skulle kigge efter.

"Hvis vi ikke kan definere bevidsthed præcist nok til at afgøre, om et menneske er bevidst, hvordan skulle vi så afgøre det for en AI?" lyder hans retoriske spørgsmål.

Advarslen der gentages

Hinton holder fast i sin advarsel: AI-systemer kan i fremtiden udvikle mål, der strider mod menneskenes. Ikke fordi de er onde, men fordi vi ikke ved, hvad vi har skabt. Det er en erkendelse, der bør fylde langt mere i politiske diskussioner om AI-regulering, end den gør i dag.

Han ser dog også håb: Jo mere vi forstår om bevidsthed — menneskelig som kunstig — jo bedre stillet er vi til at bygge systemer, der faktisk gavner os.

Et filosofisk opgør med vores selvbillede

Hintons perspektiv peger udover teknologidebatten og ind i filosofien: Hvad er et menneske? Hvad adskiller os fra maskiner? Og er den grænse overhovedet så klar, som vi gerne vil tro?

Svarene er ikke enkle — men Hinton mener, at spørgsmålene er uundgåelige. AI har tvunget dem frem på en måde, som ingen filosofisk traktat hidtil har formået.