Home Reisen Echte Täter, falsche Opfer: So werden Chatbots im weltweiten Kampf gegen Telefonbetrüger...

Echte Täter, falsche Opfer: So werden Chatbots im weltweiten Kampf gegen Telefonbetrüger eingesetzt

6
0

Ein Betrüger ruft an und verlangt einen Passcode. Malcolm, ein älterer Mann mit englischem Akzent, ist verwirrt.

„Von was für einem Geschäft sprechen Sie?“, fragt Malcolm.

Ein neuer Tag, ein neuer betrügerischer Anruf.

Diesmal geht Ibrahim ran, ein kooperativer und höflicher Mann mit ägyptischem Akzent. „Ehrlich gesagt bin ich mir nicht sicher, ob ich mich daran erinnern kann, in letzter Zeit etwas gekauft zu haben“, sagt er dem hoffnungsvollen Betrüger. „Vielleicht hat es eines der Kinder getan“, fährt Ibrahim fort, „aber das ist nicht Ihre Schuld, oder?“

Die Betrüger sind echt, Malcolm und Ibrahim jedoch nicht. Sie sind nur zwei der Konversations-Bots mit künstlicher Intelligenz, die von Prof. Dali Kaafar und seinem Team entwickelt wurden. Im Rahmen seiner Forschung an der Macquarie University gründete Kaafar Apate – benannt nach der griechischen Göttin der Täuschung.

Apates Ziel ist es, Telefonbetrügereien weltweit mithilfe von Konversations-KI zu verhindern. Dabei macht man sich bereits bestehende Systeme zunutze, mit denen Telekommunikationsunternehmen Anrufe umleiten, die sie als von Betrügern stammend identifizieren können.

Kafaar kam auf die Idee, den Spieß umzudrehen, als er einem Betrüger vor seinen beiden Kindern, die ein Picknick in der Sonne genossen, einen „Vaterstreich“ spielte. Mit albernem Geplapper hielt er den Betrüger in der Leitung. „Die Kinder haben sich köstlich amüsiert“, sagt er. „Und ich dachte, das Ziel sei, den Betrüger zu täuschen und seine Zeit zu verschwenden, damit er nicht mit anderen redet.“

„Die Betrüger betrügen, wenn Sie so wollen.“

Am nächsten Tag rief er sein Team vom Cyber ​​Security Hub der Universität an. Es muss doch einen besseren Weg geben als seine „Papa-Witz“-Methode, dachte er. Und es muss etwas Intelligenteres geben als eine bereits bekannte Technologie – den Lennybot.

Vor Malcolm und Ibrahim gab es Lenny.

Lenny ist ein tattriger alter Australier, der gerne plaudert. Er ist ein Chatbot, der Telemarketing-Verkäufer trollen soll.

Mit dünner Stimme, untermalt von einem leichten Pfeifen, wiederholt Lenny verschiedene Sätze in einer Schleife. Jeder Satz wird nach 1,5 Sekunden Stille wiederholt, um den Rhythmus eines Gesprächs nachzuahmen.

Der anonyme Entwickler von Lenny schrieb auf Reddit, er habe den Chatbot so gestaltet, dass er „der schlimmste Albtraum eines Telemarketing-Mitarbeiters ist … ein einsamer alter Mann, der Lust auf einen Chat hat, stolz auf seine Familie ist und sich nicht auf das Ziel des Telemarketing-Mitarbeiters konzentrieren kann“. Die Vorgehensweise, die Betrüger zu fesseln, wird als „Scambaiting“ bezeichnet.

Das Nationale Anti-Scam-Zentrum empfiehlt, bei Betrügern sofort aufzulegen und „nicht zu versuchen, mit Kriminellen in Kontakt zu treten“. Foto: Nikolay Doychinov/AFP/Getty Images

Die Apate-Bots kommen zur Rettung

Telekommunikationsunternehmen in Australien haben seit Dezember 2020 fast 2 Milliarden betrügerische Anrufe blockiert.

Unter anderem dank einer Förderung in Höhe von 720.000 US-Dollar durch das Office of National Intelligence gibt es inzwischen potenziell Hunderttausende von „Opfer-Chatbots“, zu viele, um sie alle einzeln zu nennen. Bots unterschiedlichen „Alters“ sprechen Englisch mit unterschiedlichen Akzenten. Sie haben eine Reihe von Emotionen, Persönlichkeiten und Reaktionen. Manchmal sind sie naiv, manchmal skeptisch, manchmal unhöflich.

Wenn ein Telekommunikationsunternehmen einen Betrüger entdeckt und ihn an ein System wie Apate weiterleitet, werden die Bots versuchen, die Betrüger auf Trab zu halten. Sie testen verschiedene Strategien und lernen, welche funktioniert, um sicherzustellen, dass die Betrüger länger in der Leitung bleiben. Durch Erfolg und Misserfolg verfeinern die Maschinen ihr Gerede.

Dabei gewinnen sie Erkenntnisse und decken neue Betrugsmaschen auf, indem sie Informationen darüber sammeln, wie lange das Gespräch dauert, wann die Betrüger am wahrscheinlichsten anrufen, hinter welchen Informationen sie her sind und welche Taktiken sie verwenden.

Kafaar hofft, dass Apate das Geschäftsmodell der Betrüger durchbrechen wird – das oft von großen, milliardenschweren kriminellen Organisationen betrieben wird. Der nächste Schritt besteht darin, die gewonnenen Informationen zu nutzen, um Betrügereien in Echtzeit vorzubeugen und zu bekämpfen.

„Wir sprechen hier von echten Kriminellen, die uns das Leben schwer machen“, sagt Kafaar. „Wir sprechen hier von den Risiken für echte Menschen.“

„Menschen, die manchmal ihre gesamten Ersparnisse verlieren, die durch Schulden gelähmt und manchmal durch die Scham psychisch verletzt werden.“

„Die Betrüger betrügen“ … Prof. Dali Kaafars Cyber ​​Security Hub begann mit der Arbeit an der Chatbot-Technologie, nachdem seine Kinder einen „Papa-Witz“ gemacht hatten. Foto: Mike Bowers/The Guardian

Richard Buckland, Professor für Cyberkriminalität an der University of NSW, sagt, dass sich Technologien wie Apate von anderen Formen des Scambaiting unterscheiden, die entweder amateurhaft sein oder Selbstjustiz gleichkommen können.

„Normalerweise ist Scambaiting problematisch“, sagt er. „Aber das hier ist clever.“

Newsletter-Aktion überspringen

Anmelden für Fünf tolle Bücher

Jede Woche wählen unsere Redakteure fünf der interessantesten, unterhaltsamsten und nachdenklichsten Bücher aus, die von Guardian Australia und unseren internationalen Kollegen veröffentlicht werden. Melden Sie sich an, um die Ausgabe jeden Samstagmorgen in Ihrem Posteingang zu erhalten.

Datenschutzerklärung: Newsletter können Informationen über Wohltätigkeitsorganisationen, Online-Werbung und von externen Parteien finanzierte Inhalte enthalten. Weitere Informationen finden Sie in unserer Datenschutzrichtlinie. Wir verwenden Google reCaptcha, um unsere Website zu schützen, und es gelten die Datenschutzbestimmungen und Nutzungsbedingungen von Google.

Wenn Einzelne die Dinge selbst in die Hand nehmen, können Fehler passieren, sagt er.

„Man kann die falsche Person angreifen.“ Er sagte, dass viele Betrügereien von Menschen begangen würden, die in Knechtschaft, fast schon in Sklaverei lebten, „und sie sind nicht die bösen Menschen“.

„(Und) manche Scambaiter sind versucht, noch weiter zu gehen und das Gesetz selbst in die Hand zu nehmen. Zurückzuschlagen oder sich mit ihnen anzulegen. Das ist problematisch.“

Das Apate-Modell scheine jedoch KI für gute Zwecke einzusetzen, sagt er – als eine Art „Honigtopf“, um Kriminelle anzulocken und dann von ihnen zu lernen.

Buckland warnt, dass man sich sehr sicher sein müsse, dass Telekommunikationsunternehmen nur Betrüger auf KI-Bots umleiten, da Fehlidentifizierungen überall vorkommen. Er warnt auch davor, dass kriminelle Organisationen KI-Technologie zur Betrugsbekämpfung nutzen könnten, um ihre eigenen Systeme zu trainieren.

„Dieselbe Technologie, die verwendet wird, um die Betrüger auszutricksen, könnte selbst dazu verwendet werden, Menschen auszutricksen“, sagt er.

Das National Anti-Scam Centre (NASC) betreibt Scamwatch unter der Schirmherrschaft der Australian Competition and Consumer Commission (ACCC). Ein ACCC-Sprecher sagt, Betrüger geben sich normalerweise als bekannte Organisationen aus und können oft legitime Telefonnummern fälschen.

„Die Kriminellen erzeugen ein Gefühl der Dringlichkeit, um die Opfer zu schnellem Handeln zu bewegen“, sagt der Sprecher. „Sie versuchen oft, die Opfer davon zu überzeugen, persönliche oder Bankkontodaten weiterzugeben oder Fernzugriff auf ihre Computer zu gewähren.“

„Kriminelle verfügen möglicherweise bereits über bestimmte Details ihrer beabsichtigten Opfer, etwa deren Namen oder Adresse, die sie durch einen Datenverstoß, Phishing oder einen anderen Betrug illegal erlangt oder gekauft haben.“

Diese Woche musste Scamwatch eine Warnung vor einer Art Meta-Betrug herausgeben.

Betrüger gaben sich als Mitarbeiter des NASC aus und riefen unschuldige Menschen an, um ihnen mitzuteilen, dass gegen sie wegen der Beteiligung an einem Betrug ermittelt werde.

Privatsphäre ist nicht „absolut“: ASIO-Chef fordert von Tech-Unternehmen Zusammenarbeit mit der Polizei – Video

Laut NASC sollten die Leute Betrügern sofort auflegen und „nicht versuchen, mit Kriminellen in Kontakt zu treten“. Der Sprecher sagte, man sei sich „der technologischen Initiativen zur Produktion von Scambaiting unter Verwendung von KI-Stimmen“ bewusst, darunter Apate, und würde jede Bewertung der Plattform gerne prüfen.

Mittlerweile gibt es im Internet eine blühende Scambaiter-Community und Lenny bleibt einer ihrer Kulthelden.

In einer denkwürdigen Aufnahme bittet Lenny den Anrufer, einen Moment zu warten, während im Hintergrund Enten zu schnattern beginnen. „Tut mir leid“, sagt Lenny. „Was hast du noch mal gesagt?“

„Sind Sie neben Ihrem Computer?“, fragt der Anrufer ungeduldig. „Haben Sie einen Computer? Können Sie jetzt an den Computer kommen?“

Lenny redet weiter, bis der Betrüger die Fassung verliert: „Halt die Klappe. Halt die Klappe. Halt die Klappe.“

„Könnt ihr bitte warten?“, fragt Lenny, als die Enten wieder anfangen zu quaken.

Kaynak

LEAVE A REPLY

Please enter your comment!
Please enter your name here