In unserer zunehmend automatisierten Welt erleichtern uns Technologien den Alltag. Von Navigationssystemen über Rechtschreibprogramme bis hin zu KI-gestützten Diagnosetools. Automatisierte Systeme sind aus vielen Bereichen nicht mehr wegzudenken. Doch diese Abhängigkeit birgt auch Gefahren. Automatisierungsverzerrungen, auch bekannt als Automation Bias, können dazu führen, dass wir den Empfehlungen von Systemen blind vertrauen. Doch dies mit potenziell gravierenden Folgen.

Was sind Automatisierungsverzerrungen?

Automatisierungsverzerrungen beschreiben eine kognitive Verzerrung, bei der Menschen automatisierten Entscheidungen oder Vorschlägen mehr Vertrauen schenken als ihrem eigenen Urteil oder dem von anderen Menschen. Dies kann dazu führen, dass offensichtliche Fehler übersehen oder falsche Entscheidungen getroffen werden. Besonders, weil viele Nutzer die Automatisierung als fehlerfrei wahrnehmen.

Beispiele aus der Praxis

1. Medizinische Systeme:
   Ärzte und Ärztinnen, die sich auf KI-gestützte Diagnosetools verlassen, können frühe Symptome von Krankheiten übersehen, die das System nicht erkennt. Ein Beispiel: Ein System stuft eine Tumorgröße als unkritisch ein und der Arzt hinterfragt die Entscheidung nicht.
2. Verkehr und autonomes Fahren:
   Fahrer, die auf den Spurhalteassistenten vertrauen, reagieren oft zu spät, wenn dieser die Kontrolle verliert. Ein bekanntes Szenario sind Unfälle, bei denen der Fahrer keine manuellen Korrekturen vornimmt, weil er der Automatisierung blind vertraut.
3. Büro und Alltag:
   Ein Rechtschreibprüfungsprogramm schlägt Änderungen vor, die grammatikalisch falsch sind. Doch der Nutzer akzeptiert sie ungeprüft – ein kleiner Fehler, der in offiziellen Dokumenten zu großen Missverständnissen führen kann.

Warum entstehen Automatisierungsverzerrungen?

1. Vertrauen in Technologie:
   Automatisierte Systeme gelten als präzise, effizient und unvoreingenommen. Dieser Glaube führt dazu, dass Menschen diese oft unkritisch akzeptieren.
2. Bequemlichkeit:
   Automatisierung reduziert den kognitiven Aufwand. Es ist oft einfacher, die Empfehlung eines Systems zu übernehmen, als selbst eine Entscheidung zu treffen.
3. Fehlendes Wissen:
   Viele Nutzer verstehen nicht, wie automatisierte Systeme funktionieren oder wo ihre Grenzen liegen. Dies erschwert es, die Qualität der automatisierten Entscheidungen richtig einzuschätzen.
4. Überforderung:
   In komplexen Situationen, wie bei der Steuerung eines Flugzeugs oder der Analyse medizinischer Daten, verlassen sich Menschen auf Systeme, um die Belastung zu reduzieren.

Welche Risiken birgt diese Verzerrung?

Die Gefahren von Automatisierungsverzerrungen liegen auf der Hand:

• Fehlerhafte Entscheidungen: Vertrauen in fehlerhafte Systeme führt direkt zu Fehlentscheidungen.
• Mangelnde Kontrolle: Nutzer übersehen Warnsignale oder versäumen es, das System zu hinterfragen.
• Abhängigkeit: Menschen verlassen sich zunehmend auf Automatisierung, anstatt eigene Kompetenzen zu entwickeln.

In sicherheitskritischen Bereichen wie Medizin, Luftfahrt oder dem Straßenverkehr können diese Fehler erhebliche Konsequenzen haben. Bis hin zu lebensbedrohlichen Situationen.

Wie lassen sich Automatisierungsverzerrungen vermeiden?

1. Bewusstsein schaffen:
   Nutzer müssen verstehen, dass auch automatisierte Systeme Fehler machen können.
   Regelmäßige Schulungen und Sensibilisierungen sind entscheidend.
2. Klare Verantwortung:
   Systeme sollten als Unterstützung, nicht als Ersatz für menschliches Urteilsvermögen verstanden werden.
   Menschen müssen aktiv in Entscheidungsprozesse eingebunden bleiben.
3. Transparente Technologien:
   Automatisierte Systeme sollten so gestaltet sein, dass ihre Entscheidungswege nachvollziehbar und überprüfbar sind.
4. Fehlerkultur fördern:
   Eine Kultur, die es erlaubt, sowohl die Automatisierung als auch menschliche Entscheidungen zu hinterfragen, kann helfen, die Verzerrungen zu minimieren.

Fazit

Automatisierungsverzerrungen sind ein wachsendes Problem in einer Welt, die zunehmend auf Technologie angewiesen ist. Während automatisierte Systeme viele Vorteile bieten, sollten wir nicht vergessen, dass sie keine perfekten Entscheidungsträger sind. Kritisches Denken, die Förderung von Wissen über technische Systeme und ein bewusster Umgang mit Automatisierung sind der Schlüssel, um diese Verzerrung zu minimieren und sicherzustellen, dass Technologie uns unterstützt, ohne uns zu ersetzen.

Der Beitrag Automatisierungsverzerrungen (Bias) – Oder wie blindes Vertrauen in Technologie zu Fehlern führt erschien zuerst auf CEOsBay.

Was ist Google Looker Studio?

Google Looker Studio ist ein webbasiertes Tool, mit dem man Informationen wie Diashows oder Tabellen in Diagramme und Grafiken umwandeln kann. Klingt erst einmal harmlos. Doch Cyberkriminelle haben einen Weg gefunden, dieses Tool für bösartigen Zwecke zu missbrauchen.

Wie funktioniert der Phishing Angriff?

Forscher bei Check Point (Soll jetzt definitiv keine Werbung sein!) entdeckten eine Business E-Mail Compromise (BEC)-Kampagne, die Looker Studio nutzt, um Kryptowährungs-Themenseiten zu erstellen. So, zumindest Jeremy Fuchs, Cybersecurity-Forscher/Analyst bei Check Point, in einem kürzlichen Blogbeitrag. Die Angreifer versenden E-Mails, die so aussehen, als kämen sie direkt von Google. Sie enthalten Links zu angeblichen Berichten über Kryptowährungsstrategien und fordern Benutzer auf, sich anzumelden, um mehr zu erfahren.

Wenn das Opfer auf den Link anklickt, landet es auf einer Google Looker-Seite mit einer Diashow, die über den Erwerb von mehr Bitcoin informiert. Ein Gefühl der Dringlichkeit wird vermittelt und die Opfer werden zu einer Login-Seite geleitet, die ihre Anmeldeinformationen stiehlt.

Der technische Kniff

Das Besondere an diesem Angriff ist, wie der Angreifer E-Mail-Sicherheitsmaßnahmen umgeht. Der Angriff kann Technologien, die E-Mails auf bösartige Aktivitäten überprüfen, durch die Nutzung von Googles Autorität täuschen. Dies geschieht unter anderem durch:

• Sender Policy Framework (SPF): Hierbei wird eine Sender-IP-Adresse verwendet, die als autorisierter Sender für eine bestimmte Google-Domain gelistet ist.
• DomainKeys Identified Mail (DKIM): Diese Methode verwendet kryptografische Signaturen, um zu überprüfen, ob der Inhalt einer E-Mail während des Transits verändert wurde. Die Nachrichten passieren diesen Check, weil sie für die legitime Domain google.com verifiziert sind.
• DMARC: Hier können Domainbesitzer festlegen, welche Maßnahmen für E-Mails ergriffen werden sollen, die SPF oder DKIM nicht bestehen. Da die Nachrichten mit der google.com-Domain assoziiert sind, werden sie einfach weiter gewunken.

Wie kann man sich vor Phishing schützen?

Es ist besorgniserregend, dass selbst renommierte Technologien und Protokolle wie SPF, DKIM und DMARC für derartige Angriffsvektoren anfällig sind.

Check Point selbst empfiehlt den Einsatz von KI-basierter Sicherheitstechnologie. Diese kann zahlreiche Phishing-Indikatoren analysieren und identifizieren, um komplexe BEC-Angriffe proaktiv abzuwehren. Es sei auch ratsam, eine umfassende Sicherheitslösung zu verwenden, die Dokument- und Dateiscan-Funktionen sowie ein robustes URL-Schutzsystem bietet.

Meine persönlichen Tipps an dieser Stelle:

Vor Phishing-Attacken zu schützen erfordert sowohl technologische als auch proaktive Maßnahmen. Hier sind einige Tipps und Best Practices für einen effektiven Schutz:

1. Bildung und Aufklärung: Bewusstsein für Phishing-Methoden schaffen und regelmäßige Schulungen durchführen.
2. Verdächtige E-Mails überprüfen: Bei E-Mails, die dringende Maßnahmen erfordern, schlecht formuliert sind oder Rechtschreibfehler enthalten, Vorsicht walten lassen. Den Absender überprüfen, indem man über den Namen oder die E-Mail-Adresse fährt, um die tatsächliche Adresse zu sehen.
3. Links überprüfen: Über Links in E-Mails fahren, um die tatsächliche URL zu sehen. Bei Unsicherheit die bekannte, legitime URL manuell in den Browser eingeben.
4. Aktualisierte Sicherheitssoftware: Sicherstellen, dass aktuelle Antivirus- und Anti-Malware-Software vorhanden ist und regelmäßige Scans durchgeführt werden.
5. E-Mail-Filter: Filter verwenden, die Spam und verdächtige E-Mails erkennen und blockieren.
6. Zwei-Faktor-Authentifizierung (2FA): Wenn möglich, Zwei-Faktor-Authentifizierung für Online-Konten aktivieren.
7. Vermeidung der Preisgabe persönlicher Informationen: Niemals vertrauliche Informationen wie Passwörter, Bankdaten oder Sozialversicherungsnummern in Antwort auf eine unaufgeforderte E-Mail oder Nachricht preisgeben.
8. Sichere Verbindungen nutzen: Sicherstellen, dass Websites mit persönlichen Daten eine sichere Verbindung verwenden (URL sollte mit „https://“ beginnen und ein Vorhängeschloss-Symbol sollte in der Adressleiste sichtbar sein). Grundsätzlich eine VPN-Verbindung verwenden.
9. Regelmäßige Backups durchführen: Regelmäßige Backups von Daten erstellen.
10. Software aktuell halten: Betriebssystem, Browser und andere Software regelmäßig aktualisieren.
11. Starke, eindeutige Passwörter verwenden: Robuste und unterschiedliche Passwörter für jeden Dienst benutzen.
12. Vorsicht bei öffentlichem WLAN: Ohne VPN (Virtual Private Network) in öffentlichen WLAN-Netzen keine Anmeldungen bei persönlichen oder geschäftlichen Konten durchführen.

Das Schaffen von Bewusstsein für potenzielle Bedrohungen und die Implementierung von Best Practices sind die effektivsten Verteidigungsmaßnahmen gegen Phishing-Angriffe.

Fazit

In der sich ständig weiterentwickelnden Welt der Cyberkriminalität ist es unerlässlich, informiert und wachsam zu bleiben. Durch das Verständnis für Techniken und Werkzeuge, die potenzielle Angreifer verwenden, können wir bessere Abwehrstrategien entwickeln und uns sowie unsere Daten sicherer machen. Bleiben Sie sicher! 😉

Der Beitrag Phishing – Googles Looker Studio im Visier von Cyberkriminellen erschien zuerst auf CEOsBay.