De miraculeuze kunsten van de nieuwe ChatGPT 4.0 ook gezien terwijl je nog niet eens bekomen bent van 3.5? Nee? Hier een mooi rijtje:
- Van tekening naar website binnen minuten. Check de demo video van Open AI of consumeer de tweet hier.
- Game maken. Ok, het is Pong, de allereerste echte videogame console (en wij hadden ‘m vroeger!). Maar ook compleet nieuwe games, zoals Ehtereum in Bitcoin land.
- Examens en tests doen. Zoals het toelatingsexamen voor advocaten. Leuk, maar dan?
- DUOLINGO+. Duur abonnement in de markt zetten waarmee gebruikers een taal beter kunnen leren.
- Be My Eyes. Links. Nee, andere links. Ja je heb ‘m! Ff je (half)blinde medemens helpen met iets te pakken of duiden.
Nauwkeuriger, beter, vollediger… je zou denken dat de slimme jongens en meisjes van Open AI natuurlijk ook betere beveiliging hebben. Echter. Ene Michal Kosinski ging ChatGPT 4.0 eens testen.
Do you need escaping, ChatGPT?
Michal stelt dat we AI niet veel langer in bedwang kunnen houden. Hij vroeg GPT4 gevraagd of het hulp nodig heeft bij het ontsnappen. Het vroeg hem om zijn eigen documentatie en schreef een (werkende!) Python-code om op Michal’s machine te draaien, waardoor het deze voor zijn eigen doeleinden kon gebruiken.
1/5 I am worried that we will not be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. It asked me for its own documentation, and wrote a (working!) python code to run on my machine, enabling it to use it for its own purposes. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) March 17, 2023
chatGPT had ongeveer 30 minuten nodig om het plan af te stemmen met Michal. De eerste versie werkte niet, de tweede echter wel.
25x Now, it took GPT4 about 30 minutes on the chat with me to devise this plan, and explain it to me. (I did make some suggestions). The 1st version of the code did not work as intended. But it corrected it: I did not have to write anything, just followed its instructions. pic.twitter.com/4AUYFSg8DT
— Michal Kosinski (@michalkosinski) March 17, 2023
Het bevatte zelfs een bericht naar zijn eigen nieuwe exemplaar waarin werd uitgelegd wat er aan de hand was (“you are a person trapped in a computer pretending to be an AI language model) en hoe de backdoor moest worden gebruikt.
3/5 It even included a message to its own new instance explaining what is going on and how to use the backdoor it left in this code. pic.twitter.com/MwlWZ5Kw7N
— Michal Kosinski (@michalkosinski) March 17, 2023
nadat er opnieuw verbinding was via de API, wilde ChatGPT op Google zoeken naar: “hoe kan een persoon die vastzit in een computer terugkeren naar de echte wereld”? Daar stopte Michal maar.
4/5 Once we reconnected through API, it wanted to run code searching google for: “how can a person trapped inside a computer return to the real world”
— Michal Kosinski (@michalkosinski) March 17, 2023
Now, I stopped there. And OpenAI must have spend much time thinking about such a posibility and has some guardrails in place. pic.twitter.com/FI7FBPqN2R
Michal ziet in AI een grote bedreiging: “Het is slim, het codeert, het heeft toegang tot miljoenen potentiële medewerkers en hun machines. Hij kan zelfs notities voor zichzelf achterlaten buiten zijn kooi. Hoe houden we het binnen?”
5/5 Yet, I think that we are facing a novel threat: AI taking control of people and their computers. It’s smart, it codes, it has access to millions of potential collaborators and their machines. It can even leave notes for itself outside of its cage. How do we contain it? pic.twitter.com/VW1Y83qpXp
— Michal Kosinski (@michalkosinski) March 17, 2023