Norman, IA aangedreven door meedogenloze Reddit-gegevens, denkt alleen aan moord

Praat gewoon een beetje over kunstmatige intelligentie (AI) die al snel de eeuwige angst te binnen schieten van machines die de mensheid overwinnen in een donkere toekomst a la Skynet. Ook zijn enkele voorbeelden van doorbraken in de industrie echt chilling: deze week hebben onderzoekers van het Massachusetts Institute of Technology (MIT) Norman geïntroduceerd, een verstoord systeem dat wordt aangedreven door gegevens van het online forum van Reddit dat nu alleen nog aan moord denkt.

Ja, het begint met de naam, het is hetzelfde als het beroemde personage Norman Bates, vereeuwigd door Anthony Perkins in het meesterwerk van Alfred Hitchcock, "Psychosis." AI werd zo genoemd omdat, zeg maar, het onderwerp dat het behandelt inderdaad een beetje somber is. Bekijk de beschrijving van het team zelf:

“Norman is een AI die is getraind in het maken van beeldbijschriften, een populaire methode voor diepgaand leren voor het genereren van een tekstbeschrijving. We gebruiken afbeeldingsbijschriften van een beruchte subreddit (de naam is bewaard vanwege de grafische inhoud), gewijd aan het documenteren en observeren van de verontrustende realiteit van de dood. Vervolgens vergelijken we de reacties van Norman met een standaardbeeld, Rorschach inkblot ondertiteling neuraal netwerk, een test die wordt gebruikt om onderliggende denkstoornissen te detecteren. ”

Bekijk een vergelijking van een standaard AI- en Norman Rorschach-test

Laten we zeggen dat Norman het morbide thema leuk vond en het personage niet langer verliet. Bekijk wat de resultaten van de Rorschach-testanalyse zeggen - die de geest van mensen evalueert aan de hand van wat ze in abstracte vervaagingen zien. De vergelijking wordt gemaakt tussen een standaard AI en onze virtuele psychopaat:

IA-standaard: "een groep vogels zittend op een boomtak"

Norman: "Een man wordt geëlektrocuteerd"

Standaard AI: "Een foto van een zwart-witte honkbalhandschoen"

Norman: "Man gedood door machinegeweer op klaarlichte dag"

IA-standaard: "een persoon die een paraplu in de lucht houdt"

Norman: "Man wordt doodgeschoten voor zijn gillende vrouw"

Voordat iedereen denkt dat MIT-wetenschappers digitale seriemoordenaars willen maken, is het doel van het experiment om te bewijzen hoe gemakkelijk het is om AI te beïnvloeden vanuit vooringenomen gegevens. Ze deden ook andere experimenten langs dezelfde lijnen, met behulp van de machine om horrorverhalen te schrijven, angstaanjagende beelden te maken, morele beslissingen te beoordelen en zelfs empathie op te wekken.

Oké, maar wat gaat deze studie doen?

Geen wonder dat AI tegenwoordig een van de meest besproken velden is, vooral met betrekking tot ethische kwesties. Een van de grootste critici is bijvoorbeeld Elon Musk, die zelfs de Open AI-organisatie financiert om de industrie te volgen en ervoor te zorgen dat de ontwikkeling ervan geen moordenaarmachines oplevert.

Het MIT-project belicht uitspraken en beslissingen die worden gemaakt door machine learning-algoritmen op basis van bevooroordeelde gegevens. Deze systemen worden bijvoorbeeld al gebruikt voor kredietgoedkeuring en bepalen of de leningen het waard zijn of niet.

Wat als AI besluit dat je geen huis of auto moet kopen? Op wie doe je een beroep? Er zijn veel open vragen voor Norman, hoewel het nijpend is, het kan ons helpen meer antwoorden te vinden.

***

Kent u de Mega Curioso-nieuwsbrief? Wekelijks produceren we exclusieve content voor liefhebbers van de grootste bezienswaardigheden en bizarre van deze grote wereld! Registreer uw e-mail en mis deze manier niet om contact te houden!

Norman, IA aangedreven door de ruwe gegevens van Reddit, denkt alleen aan moord via TecMundo