Liebe Leserinnen und Leser,
die künstliche Intelligenz ist dabei, unsere Art der Kommunikation und der Wahrnehmung nachhaltig zu ändern. Kein Bild, kein Wort und kein Ton wird mehr über jeden Zweifel der Echtheit erhaben sein. Die Konsequenz kann auf menschlicher Ebene nur ungläubige Skepsis sein. Auf technischer Ebene müssen wir uns auf (hoffentlich vorhandene) Defensiv- und Präventivmethoden verlassen.
Ab sofort sollten wir stets im Bewusstsein leben, dass Inhalte im Rahmen unserer Alltags- und Geschäftskommunikation perfekt gefälscht sein könnten. Auch die Wahrnehmung unserer Umwelt sollten wir künftig vorsichtiger bewerten. Etwas „mit eigenen Augen gesehen“ zu haben – was bedeutet das schon?
Im letzten Jahr machte der Tipp noch Sinn, man solle in Mailanschreiben auf holprige Textstellen achten – es könnte sich um Phishingtexte handeln. Doch der ist aktuell schon überholt: Mit Hilfe der Künstlichen Intelligenz lassen sich Phishingmails einfach perfekt gestalten. Heute ist es möglich, dass Sie als Prokurist einen Anruf vom digitalen Zwilling Ihres Chefs erhalten, der Sie anweist, irgendwelche Geldbeträge auf irgendwelche Konten zu überweisen. Mit Hilfe künstlicher Intelligenz kann sich Ihr vermeintlicher Chef bzw. ein krimineller Angreifer sogar per Video an Sie wenden und Sie werden keinen Unterschied mehr zu Ihrem richtigen Chef fest-stellen können. Womöglich spaziert er schon bald als 3D-Hologramm durch den Raum und trägt sein unverkennbares After Shave. Ich wage zu prognostizieren, dass der sogenannte Enkeltrick, der im privaten Bereich schon Rentner um ihre Existenz gebracht hat, mit Hilfe Künstlicher Intelligenz zu einer noch deutlich größeren Bedrohung werden wird. Menschen, denen aufgrund ihrer Lebenserfahrung die Fähigkeit fehlt sich vorzustellen, wie manipulativ KI sein kann, werden massenweise zu Opfern dieser (missbrauchten) KI werden.
Im IT-Bereich gilt schon länger die Zero-Trust-Methode: Vertraue niemals irgendwem oder irgendwas, der oder das Zugriff auf Ihr Netzwerk begehrt und verifiziere alle Versuche peinlich genau. Ein gesundes Misstrauen gegenüber Informationen lässt sich im Journalismus schon lange ableiten aus verschiedenen Richtlinien des Pressecodex, z. B.: „Zur Veröffentlichung bestimmte Informationen in Wort, Bild und Grafik sind mit der nach den Umständen gebotenen Sorgfalt auf ihren Wahrheitsgehalt zu prüfen und wahrheitsgetreu wiederzugeben.“ Wird das unter den Bedingungen der KI noch möglich sein?
Zur Manipulationsgefahr durch KI habe ich ChatGPT selbst befragt: „How can I trust furthermore?“ Die (gekürzten) Antworten sind nicht so dumm – aber auch nicht neu: 1. Verify the source (Überprüfe die Quelle), 2. Look for inconsistencies (Achte auf Unstimmigkeiten), 3. Use fact-checking tools (Nutze Werkzeuge zur Überprüfung von Fakten), 4. Be critical (Sei kritisch).
Vor allem Punkt 3 gibt die grobe Richtung, wohin die Entwicklung führen könnte, schon vor: Wir werden als Menschen auf Werkzeuge und Hilfsmittel angewiesen sein, die in der Lage sind, unser Misstrauen in Vertrauen zu verwandeln – oder auf glaubwürdige Sicherheitsberater.
