,

ChatGPT: how can a person trapped inside a computer return to the real world?

De miraculeuze kunsten van de nieuwe ChatGPT 4.0 ook gezien terwijl je nog niet eens bekomen bent van 3.5? Nee? Hier een mooi rijtje:

  • Van tekening naar website binnen minuten. Check de demo video van Open AI of consumeer de tweet hier.
  • Game maken. Ok, het is Pong, de allereerste echte videogame console (en wij hadden ‘m vroeger!). Maar ook compleet nieuwe games, zoals Ehtereum in Bitcoin land.
  • Examens en tests doen. Zoals het toelatingsexamen voor advocaten. Leuk, maar dan?
  • DUOLINGO+. Duur abonnement in de markt zetten waarmee gebruikers een taal beter kunnen leren.
  • Be My Eyes. Links. Nee, andere links. Ja je heb ‘m! Ff je (half)blinde medemens helpen met iets te pakken of duiden.

Nauwkeuriger, beter, vollediger… je zou denken dat de slimme jongens en meisjes van Open AI natuurlijk ook betere beveiliging hebben. Echter. Ene Michal Kosinski ging ChatGPT 4.0 eens testen.

Do you need escaping, ChatGPT?

Michal stelt dat we AI niet veel langer in bedwang kunnen houden. Hij vroeg GPT4 gevraagd of het hulp nodig heeft bij het ontsnappen. Het vroeg hem om zijn eigen documentatie en schreef een (werkende!) Python-code om op Michal’s machine te draaien, waardoor het deze voor zijn eigen doeleinden kon gebruiken.

chatGPT had ongeveer 30 minuten nodig om het plan af te stemmen met Michal. De eerste versie werkte niet, de tweede echter wel.

Het bevatte zelfs een bericht naar zijn eigen nieuwe exemplaar waarin werd uitgelegd wat er aan de hand was (“you are a person trapped in a computer pretending to be an AI language model) en hoe de backdoor moest worden gebruikt.

nadat er opnieuw verbinding was via de API, wilde ChatGPT op Google zoeken naar: “hoe kan een persoon die vastzit in een computer terugkeren naar de echte wereld”? Daar stopte Michal maar.

Michal ziet in AI een grote bedreiging: “Het is slim, het codeert, het heeft toegang tot miljoenen potentiële medewerkers en hun machines. Hij kan zelfs notities voor zichzelf achterlaten buiten zijn kooi. Hoe houden we het binnen?”