Kunstig intelligens er i stand til at tage vores faste begreber om, hvad vi kan, og hvad vi ikke kan, stole på, og køre den igennem en blender drevet af den nyeste teknologi fra flere at verdens største tech-virksomheder.
Og det udgør et kolossalt samfundsproblem, forklarede Mikkel Flyverbom.
- Hvis vi ikke længere kan stole på indhold, vi møder i digitale sammenhænge, så forstyrrer det simpelthen den skelnen mellem sandt og falsk, som vi baserer vores samfund på, siger professoren.
Det synes jeg sådan set vi allerede havde nok af et problem med inden LLMs og nu bliver det endnu værre… 😅
Kan ikke lade være med at tænke på hvordan man i fremtiden på en ordentlig måde kan sikre at brugere der fx melder sig på en side som Feddit.dk er mennesker. Men jeg kan ikke rigtig tænke på nogen god metode.
En hurtig tanke… Et blockchain agtigt system hvor du bliver nødt til at aktivere dit bruger id (en 256 bit AES nøgle f.eks) ved at andre levende mennesker fysiske bekræfter at i har været i fysisk kontakt med hinanden. En app eller noget måske. Altså det er kun mennesker der kan godkende andre mennesker. På den måde kan du med dine venner hvor du ikke behøver at være anonym få bekræftet på blockchain at ID xxxx er et menneske. Man kan så først godkende andre efter en hvis tid eller man skal blive bekræftet af en officiel org før man kan lukke andre ind.
Det er sikkert noget jeg har overset som ødelægger det hele. Sikkert at det er for besværligt at implementere i praktisk.
Jeg tror det du snakker om er sådan et “web of trust”. Jeg ved ikke helt hvor realistisk det er.
Det lyder nemt at snyde - altså hvis du får en gruppe rigtige mennesker til at bekræfte at en AI bot er et menneske, så er den lige pludselig meget pålidelig. Så kan du bruge den AI-bot og menneskerne til at bekræfte endnu en AI-bot. Jeg kan ikke rigtig se hvad der ville stoppe den udvikling - på et tidspunkt ville du have en masse AI-bots, alle bekræftet af hinanden.
Til gengæld så hvis det er på en blockchain kan man, når en bot bliver fundet gå tilbage gennem kæden og lukke alle ude som har været med til at godkende. Måske det kommer til at ødelægge anonymiteten, men det kan jeg ikke lige gennemskue. Lad os sige et der skal 10 mennesker til at godkende et nyt menneske. Man kan så gå ind og kigge på afstanden eller relationerne mellem dem som godkender dig kan man måske spotte eller blokere endnu en AI bot. Hvis du f.eks bliver opdaget og brænder en konto kan du ikke umiddelbart benytte de samme 10 mennesker til at godkende igen. De fleste bots benytter jo at de lynhurtigt kan oprette nye konti men hvis de hver gang skal finde nye virkelig mennesker at godkende med fysik ved at scanne en app så sætter det hurtigt en kæp i hjulet.
Hmm jeg kan ikke rigtig se hvordan. Jeg synes også det lyder som om du er nødt til at antage at folk kun har en bruger registreret i denne block-chain, og jeg ved ikke hvordan du vil håndhæve det.
Jeg tror desværre ikke der er nogen let løsning :/
Jeg er enig i at det sikkert ikke vil fungere i praksis. Det var som sagt bare en tanke. Min pointer er nok mest at det bliver nødt til at være et system hvor “straffen” for at snyde en AI ind, er så hård at hver gang du gør det bliver det sværere og sværere både for dig selv men også for alle dem som hjalp dig (bevidst eller ubevidst (godkende alle fremmede man møde)) som nu igen skal ud og godkende sig selv igen. Jeg ser ikke noget i vejen for at du kan have flere brugere hvis du vil. Det hele bygger dog på at du kan finde og buste AI. Hvis ikke du kan det som udgangspunkt så vil det ikke virke Men igen, der er sikkert noget mere jeg overser med denne ide som gør det ubrugeligt.
Men trods alt tilføjer det friktion: det bliver besværliggjort at oprette en bot-konto. Så bliver de måske mindre brug-og-smid-væk.
Et MitID-lignende system kunne måske være brugbart, i hvert fald når man registrerer sig et sted hvor man gerne vil knyttes sammen med sin virkelige identitet.
Ja men hvad med anonyme sider? Hvordan kan man skelne en anonym bruger fra en AI-bot?
Det korte svar er, at det kan du ikke.
Derfor bør der laves lovgivning på EU plan, der slår effektivt ned på, hvis man deployer AI uden disclaimer om AI identitet. En online AI aktør (en såkaldt “agent”), der udgiver sig for at være en person, kan være stærkt manipulerende og et reelt problem for vores tillid til at samtale digitalt.
Sov godt.
PS. Hør Prompt
Jeg kan ikke rigtig se hvordan du kunne lovgive om den slags. Der findes allerede sprogmodeller du kan køre lokalt på dit eget grafikkort. Det er måske (stort måske) kun et spørgsmål om tid før de er tæt på ChatGPTs niveau. Det ville gøre det umuligt at håndhæve sådan en lov.
For slet ikke at tale om udenlandske magter der vil os ondt som blæser på de regler og deployer AI i stor stil på vores sociale medier for at styre den offentlige debat.
Så begynder man nærmest kun at kunne stole på andre mennesker i det virkelige liv, da nærmest alt digital information kan være genereret af en ondsindet AI.
Jo tak, godnat… 😵💫
Jeg kan ikke rigtig se hvordan du kunne lovgive om den slags
Yuval Harari kommer ind på det i denne video talk: https://youtu.be/LWiM-LuRe6w?si=Z6–vHQ9HOKbs2pa - jeg har ikke det nøjagtige timestamp.
da nærmest alt digital information kan være genereret af en ondsindet AI.
Ja, det henleder tankerne på den gamle teori om Det Døde Internet: https://en.m.wikipedia.org/wiki/Dead_Internet_theory
Apropros, så tror jeg ikke, vi skal frygte “ondsindet AI”, men nærmere ondsindede aktører, som vil misbruge AI.
Nogen herinde der har læst Ian M. Banks Culture serie? Jeg tænker mere specifikt på “Player of Games”, hvor der bliver talt om at fordi al video/lyd/medie kan fabrikeres perfekt så kan det ikke bruges som bevismateriale i retten. Jeg tror det ender med at blive nogenlunde samme situation vi kommer i, altså at man som udgangspunkt skal være skeptisk over for al video / foto indtil en nyhed bliver berettet fra flere uafhængige kilder (og selv da skal man være skeptisk, fordi nogen gange skider journalister i sengen og bruger samme utroværdige kilde / citerer hinanden). Det må folk bare vende sig til.
Har ikke læst den, er den god?
Jeg synes den er god, bedre end de andre i serien, men det er nok lidt subjektivt. Jeg læser det mest for idéerne / worldbuilding. Hovedkarakteren er relativt usympatisk men meget “menneskelig”, da han ikke rigtig er glad og ikke kan finde mening med livet på trods af at de lever i et post-scarcity utopi.
