Phishing mit AI: Warum man heute am besten «niemandem mehr traut»

Ein Gastbeitrag von Rainer Kessler, Experte für Cybersecurity & Artificial-Intelligence Safety.

Wer bei Phishing an schlechtes Deutsch, schiefe Formulierungen und offensichtliche Betrugsversuche denkt, hat noch ein altes Bild im Kopf. Heute sieht die Realität oft anders aus.

Phishing wirkt professioneller als früher. Nicht unbedingt, weil Angreifer plötzlich viel raffinierter geworden wären. Sondern weil ihnen Werkzeuge zur Verfügung stehen, die ihre Täuschungen sprachlich und visuell deutlich besser machen. Die modernen AI-Systeme haben hier zu einer radikalen Veränderung geführt.

Texte lassen sich heute in Sekunden einwandfrei formulieren. Auf Deutsch, auf Englisch, auf Französisch, auf Italienisch, auf Rätoromanisch – und auch auf Schweizerdeutsch! Freundlich, sachlich oder dringlich, bis hin zu aggressiv. Kurz oder ausführlich. Genau im Stil, der zur Situation passt.

Und genau das ist das Problem. Denn wenn eine Nachricht sprachlich oder sogar im situativen Kontext (man erwartet ja gerade ein Paket oder man hat einen Kommentar auf Social-Media gepostet) glaubwürdig wirkt, fällt ein wichtiges altes Warnsignal weg.

Der nächste Schritt ist die unbequeme Einordnung: Die Qualität der Täuschung steigt bis zur Perfektion. Und damit verändert sich auch, wie wir uns schützen können. Ich unterrichte seit über drei Jahrzehnten rund um das Thema Cybersicherheit an mehreren Schweizer Universitäten und berate Firmen und Staaten auf der ganzen Welt; darum beobachte ich u.a. die Entwicklung des Phishings genauestens – nachfolgend fasse ich meine Erkenntnisse zusammen.

AI macht Phishing nicht neu, aber deutlich besser

Phishing selbst ist kein neues Phänomen. Neu ist, wie einfach sich überzeugende Inhalte erstellen lassen.

Früher waren viele Phishing-Mails mit etwas Aufmerksamkeit gut erkennbar. Es gab sprachliche Fehler, unpassende Anreden oder einen Ton, der einfach nicht stimmte. Heute kann eine betrügerische Nachricht sehr korrekt, sehr höflich und sehr passend wirken.

Spear-Phishing & Voice-Cloning

Das gilt nicht nur für E-Mails. Auch gefälschte Websites wirken professioneller. Dazu kommen neue Formen der Täuschung, etwa Stimmen, die täuschend echt klingen, oder Inhalte, die sich sehr gezielt auf eine Person, ein Unternehmen oder eine konkrete Situation zuschneiden lassen. Und solche Phishing-Texte oder Funktionalitäten lassen sich heute in grossen Mengen automatisiert erzeugen. Besonders perfide ist die Entwicklung bei Stimmen.

Es gibt inzwischen Tools, die aus kurzen Sprachaufnahmen ein Stimmprofil ableiten und damit Aussprache, Tonlage, Rhythmus, Sprechtempo und typische Betonungen erstaunlich überzeugend nachbilden können. Teilweise funktioniert das sogar in Echtzeit: Jemand spricht mit der eigenen Stimme ins Mikrofon, und beim Gegenüber kommt eine Stimme an, die wie eine ganz andere Person klingt.

Wenn also eine bekannte Persönlichkeit in Interviews, Videos oder Podcasts oft genug zu hören ist, kann dieses Material missbraucht werden, um ihre Stimme nachzuahmen. Neueste diesbezügliche Tools brauchen immer weniger Mustermaterial: da kann es sogar ausreichen, wenn Angreifer die Zielperson anrufen und in ein belangloses (kurzes) Gespräch verwickeln und den Anruf aufnehmen!

Für Angreifer ist das deshalb so wirksam, weil Stimme eine besondere Vertrauenswirkung hat. Eine Mail kann man noch in Ruhe lesen. Einen Anruf erlebt man direkter. Wenn am Telefon scheinbar ein Freund, eine Tochter, ein Vorgesetzter oder eine Verwandte spricht und dabei nicht nur der Inhalt, sondern auch Klang, Sprechweise und emotionale Färbung vertraut wirken, sinkt die natürliche Vorsicht vieler Menschen sehr schnell.

Damit lassen sich persönliche Vertrauensbarrieren überwinden, selbst dann, wenn der Anruf inhaltlich eigentlich von einer fremden Person gesteuert wird. Auf diese Weise kann nicht nur Autorität vorgetäuscht werden, sondern auch Nähe, Vertrautheit und Dringlichkeit. Das macht solche Angriffe psychologisch besonders stark: Nicht nur institutionelles Vertrauen wird imitiert, sondern die menschliche Beziehung selbst.

Die Folge: Nicht nur die Menge potenzieller Angriffe steigt, sondern vor allem ihre Qualität und Vielseitigkeit.

Warum klassische Erkennungstipps an Grenzen stossen

Viele bekannte Sicherheitstipps sind weiterhin richtig. Nur reichen sie allein nicht mehr aus.

Natürlich bleibt es verdächtig, wenn eine Nachricht Druck macht, unerwartet kommt oder zum schnellen Klicken verleitet. Auch ein kritischer Blick auf Absender, Link und Kontext ist nach wie vor wichtig. Aber: Gute Sprache ist heute kein Entwarnungssignal mehr.

Genau darin liegt die Veränderung.

Früher konnte man oft sagen: Wenn es schlampig aussieht, ist Vorsicht angebracht. Heute gilt zunehmend auch das Gegenteil: Selbst wenn es professionell aussieht, kann es trotzdem Betrug sein.

Das klingt streng, ist aber in der Praxis ein nützlicher Schutzmechanismus.

Was das konkret bedeutet

Für Unternehmen bedeutet diese Entwicklung, dass Awareness (das Bewusstsein für Sicherheit) nicht bei schlechten Beispielen stehen bleiben darf. Wer Mitarbeitende nur auf plumpe Phishing-Mails vorbereitet, trainiert an der Realität vorbei. Heute geht es darum, auch professionell wirkende Täuschungen zu stoppen und zu verifizieren.

Für Privatpersonen ist die Lage ähnlich. Eine Nachricht von angeblichem Support, von einer Plattform, vom Provider oder von einem Login-Dienst kann überzeugend wirken. Gerade dann lohnt sich der kurze Unterbruch:

• Stimmt der Weg, über den ich kontaktiert werde?
• Würde ich das Anliegen nicht besser direkt über die bekannte Website oder App prüfen, statt aus der Nachricht heraus zu handeln (URL der Website selber im Browser eingeben, keinen Link klicken)?
• Muss ich irgendwo klicken? Soll ich eine Beilage öffnen?

Der sicherere Reflex ist heute nicht Misstrauen wegen schlechter Qualität, sondern Prüfung trotz guter Qualität. Dieser Reflex führt sinnvollerweise zur Konsequenz, dass man sich auf anderem Kanal erkundigt, was los ist: Auch wenn die Chefin oder der Lieferant anruft und sagt, man solle nun endlich die Zahlung machen, die schon lange fällig ist – und übrigens hätte sich die Bankverbindung geändert, handelt man nicht einfach. Man bleibt höflich und sagt, dass man zurück ruft (trotz Druck von der Gegenseite) – und der Rückruf erfolgt natürlich auf die echte Nummer der Person oder Organisation.

Dieses einfache Vorgehen hätte vielen Firmen rund um die Welt viel Geld gespart – auch wenn es nicht jedes Mal um fast 60 Millionen Euro geht, wie beispielsweise die Crelan Bank in Belgien als Folge von Phishing verloren hat. Eine Übersicht dieses und weiterer Fälle liefert die British Computer Society.

Was in den nächsten ein bis zwei Jahren zu erwarten ist

Die nächsten ein bis zwei Jahre dürften diesen Trend noch verstärken.

Täuschungen werden voraussichtlich noch persönlicher, sprachlich noch besser und kanalübergreifend orchestriert. Das heisst: E-Mail, SMS, Chat, Website und vielleicht sogar Stimme greifen stärker ineinander. Nicht jede Attacke wird hochkomplex sein. Aber die durchschnittliche Glaubwürdigkeit dürfte weiter steigen.

Firmen müssen sich darauf einstellen, dass Mitarbeitende künftig nicht mehr nur einzelne verdächtige E-Mails erhalten, sondern ganze, aufeinander abgestimmte Täuschungsketten: etwa eine unauffällige Kontaktaufnahme per Mail, gefolgt von einer SMS, einem Anruf oder einer täuschend echten Login-Seite.

Gerade in Unternehmen kann das dazu führen, dass klassische Freigabe-, Zahlungs- oder Support-Prozesse gezielt angegriffen werden, weil Angreifer dank AI genauer verstehen, wie Rollen, Sprache und Abläufe funktionieren – und betroffen sind alle Unternehmen aller Branchen, denn Angreifern geht es i.d.R. darum, eine Zahlung auszulösen.

Auch Privatpersonen werden mit glaubwürdigeren Angriffen konfrontiert sein. Nachrichten wirken persönlicher, Bezugnahmen auf Bestellungen, Abonnemente, Konten, Reisen oder angebliche Vorfälle plausibler. Dazu kommt, dass Stimme und Sprache Vertrauen erzeugen können, noch bevor der Inhalt kritisch geprüft wurde. Wer einen Anruf, eine Nachricht oder einen Link erhält, sollte deshalb nicht mehr primär fragen, ob die Mitteilung «verdächtig genug» aussieht, sondern ob sie unabhängig verifiziert wurde.

Deshalb ist die vielleicht wichtigste Erkenntnis heute diese: Phishing erkennt man immer seltener daran, dass etwas schlecht gemacht ist. Sondern immer häufiger nur noch daran, dass man den Inhalt unabhängig überprüft.

Das ist die eigentliche sicherheitsrelevante Veränderung, die AI mit sich bringt. Das Bundesamt für Cybersicherheit (BACS) publiziert hierzu aktuelle Informationen zu den Vorfällen – zu Phishing mit und ohne AI.