'Een nieuwe, zeer zorgwekkende grens': atletiekdirecteur creëert door AI gegenereerde gesproken boodschap die de directeur racistisch en antisemitisch doet klinken, zeggen de politie

In januari dook op sociale media een audio-opname op van wat klonk als een directeur van de Pikesville High School in Maryland die racistische en antisemitische opmerkingen maakte. De opname is echter gemaakt met behulp van kunstmatige intelligentietools. (WJZ)

Begin januari ging een stemopname van wat klonk als een directeur van een middelbare school in Baltimore County, Maryland, die racistische en antisemitische uitspraken deed viraal op sociale media.

‘Ondankbare’ zwarte studenten konden ‘zich niet een weg uit een papieren zak banen’, zou Eric Eiswert, directeur van de Pikesville High School, in de krant hebben gezegd. in het geheim opgenomen audio . Hij zou ook hebben gezegd: 'Als ik nog een klacht moet indienen voor nog een Jood, ga ik me bij de andere kant aansluiten.'

Jeffrey Lundgren

• 'Heb je bloed gevonden?': Vrouw stak vriend neer op nieuwjaarsdag en maakte vervolgens ongevraagde belastende opmerkingen over het geweld, zegt de politie

• 'Ik heb zojuist onze baby naar God gestuurd': Moeder schoot 1-jarig dochtertje dodelijk neer in bijzijn van haar 2-jarig zusje, zegt de politie

• ‘Je bloedt door het hele appartement’: hulpsheriff bijt vrouw tijdens incident met huiselijk geweld en dreigt haar vervolgens te ‘vermoorden’, zegt de politie

Maar het blijkt dat de opname nep was en gemaakt met behulp van kunstmatige intelligentieprogramma's. De politie beweert dat de atletiekdirecteur van de school, de 31-jarige Dazhon Darien, de opname heeft vervaardigd als wraak op Eiswert voor het openen van een onderzoek naar Dariens misbruik van schoolgeld. Darien wordt beschuldigd van diefstal, het verstoren van de schoolactiviteiten, het nemen van wraak op een getuige en stalking.

De opname veroorzaakte grote schade aan de school en verstoorde de normale bedrijfsvoering, zei de politie van Baltimore County in een beëdigde verklaring inzake arrestatie, verkregen door de wet.

De politie arresteerde Darien donderdagochtend op Baltimore/Washington International Thurgood Marshall Airport wegens overtreding van een wapen dat hij in zijn bagage had, zei politiechef Robert McCullough van Baltimore County. Luchthavenfunctionarissen realiseerden zich dat Darien een arrestatiebevel tegen hem had en namen hem in hechtenis. McCullough zei dat het niet duidelijk is of Darien zijn arrestatie probeerde te ontvluchten.

'Vandaag zijn we opgelucht dat we iets kunnen zeggen over de oorsprong van deze audio', zei Johnny Olszewski, directeur van Baltimore County, donderdag op een persconferentie. 'Het is echter duidelijk dat we een nieuwe, zeer verontrustende grens betreden. Terwijl we de opkomende technologie en het potentieel ervan voor innovatie en sociaal welzijn blijven omarmen, moeten we ook waakzaam blijven tegen degenen die deze voor kwade bedoelingen misbruiken. Dat vereist dat we ons bewuster en kritischer zijn over de audio die we horen en de beelden die we zien. We zullen voorzichtig moeten zijn met ons oordeel.'

De politie van Baltimore County begon het onderzoek op 17 januari. In een interview met rechercheurs ontkende Eiswert de verklaringen te hebben afgelegd en zei dat hij geloofde dat de opname door AI was gegenereerd. Eiswert vermoedde ook Darien als de schuldige.

Onderzoekers kwamen erachter dat het audiofragment tussen 21.47 uur kwam. en 21:57 uur via e-mail van [email protected] . De e-mail ging naar Darien en twee andere schoolpersoneelsleden, die dicht bij hem stonden, aldus de beëdigde verklaring. Binnen 30 minuten circuleerde het filmpje al op sociale media, aldus rechercheurs. De politie interviewde de andere ontvangers van de e-mail. Het personeelslid, wiens naam uit de beëdigde verklaring is overgenomen, sprak met rechercheurs, maar noemde Darien nooit bij naam of over zijn betrokkenheid. Toen ze met dit feit werd geconfronteerd, werd ze ‘betraand’ en zei dat ze niet wist waarom ze zijn naam niet noemde, aldus de beëdigde verklaring.

teresa kohnle

Ze zou ook hebben gezegd dat ze het 'moeilijk' had om met Eiswert samen te werken. Het personeelslid zei dat ze de opname naar een student had gestuurd van wie ze wist dat deze deze op sociale media zou verspreiden en doorstuurde naar nieuwsmedia.

Hoewel Darien pas sinds juli 2023 atletiekdirecteur van de school was, had hij verschillende ‘werkgerelateerde uitdagingen’, merkten rechercheurs op. Eiswert zou Darien een berisping hebben gegeven nadat hij zonder goedkeuring een oude coach had ontslagen. Darien was ook boos dat Eiswert andere beheerders had aangesteld om toezicht op hem te houden. Onderzoekers kwamen erachter dat Eiswert in december een intern onderzoek opende wegens verduisterd geld. Darien zou toestemming hebben gegeven voor het gebruik van schoolgeld om zijn kamergenoot en junior varsity-coach bijna $ 2.000 te betalen omdat hij assistent-voetbalcoach was, ondanks dat hij dit werk nooit had gedaan.

Darien ontkende tegenover rechercheurs elke betrokkenheid bij het maken van de opname. Hij beweerde dat hij het e-mailadres niet kende waar de opname vandaan kwam. Maar een zoektocht naar het IP-adres leidde tot een huis in Los Angeles dat toebehoort aan de grootmoeder van Darien, aldus de beëdigde verklaring. Het telefoonnummer dat aan het account zou zijn gekoppeld, was dat van Darien. Onderzoekers ontdekten ook dat Darien op 18 en 19 december en op 15 januari op het scholennetwerk van Baltimore naar OpenAI-tools zocht, aldus de beëdigde verklaring.

Hoe is het

Bovendien vertelden twee AI-experts de rechercheurs dat ze dachten dat de opname was gemaakt met behulp van onbekende AI-programma's, aldus de beëdigde verklaring.

Hoofdinspecteur Myriam Rogers van Baltimore County Public Schools zei op de persconferentie dat de arrestatie van Darien aanleiding heeft gegeven tot een onderzoek dat tot zijn ontslag zou kunnen leiden. Het district zal ook onderzoek doen naar de vermeende mede-samenzweerders van Darien. Rogers zei dat de interim-directeuren op Pikesville High de rest van het schooljaar op hun plaats zullen blijven. Ambtenaren zullen de toekomstige rol van Eiswert met het district bespreken nadat het schooljaar is afgelopen, zei ze.

De politie bracht Darien naar de gevangenis na zijn arrestatie op de luchthaven, en hij betaalde een borg van $ 5.000. Zijn volgende rechtszitting is gepland op 11 juni.