Künstliche Intelligenz und Cybersicherheit: Das sind die neuen Cyberangriffe im KI-Zeitalter

Diekünstliche Intelligenz stellt eine Herausforderung dar nicht nur auf gesellschaftlicher Ebene sondern auch im Bereich Cybersicherheit. Mit der Ausweitung der Konnektivitätstechnologie nehmen Cyber-Bedrohungen sowohl an Komplexität als auch an Häufigkeit zu. Die wachsende Besorgnis im Bereich der Cybersicherheit betrifft den Einsatz von Cyberangriffe die künstliche Intelligenz (KI) nutzen.

Und gleichzeitig nehmen sie ständig zu globale Kosten von Cyberangriffen. Im Jahr 2023 wird die globale Verluste haben 8 Billionen Dollar erreicht. jedes Jahr, belaufen sich die Kosten von Datenschutzverletzungen durch Cyberkriminelle für Einzelpersonen auf 318 Milliarden US-Dollar, mit adurchschnittliche wirtschaftliche Auswirkung für KMU zwischen 120.000 und 1,24 Millionen Dollar. Der neuste Bericht von Ibm an "Kosten einer Datenschutzverletzung„zeigt einen Rekord aller Zeiten: Der durchschnittliche Cyberangriff verursacht Verluste in Höhe von 4,45 Millionen US-Dollar. Im Gesundheitssektor, sind die durchschnittlichen jährlichen Verluste mit 10,93 Millionen US-Dollar besonders hoch. Der Staaten EinheitSie gehören mit durchschnittlichen jährlichen Verlusten von 9,48 Millionen US-Dollar zu den am stärksten betroffenen Ländern, gefolgt vom Nahen Osten mit durchschnittlichen jährlichen Verlusten von 8,07 Millionen US-Dollar.

Mit dem Aufkommen der KI-Technologie, a weiterer Kostenanstieg, mit Prognosen für einen Anstieg von 11 % 10 Billionen Dollar im Jahr 2025. Mittlerweile werden die Kosten für 2024 auf 9,5 Billionen geschätzt.

Mit künstlicher Intelligenz zu ausgefeilteren Cyber-Angriffen

Künstliche Intelligenz hat die Produktivität in der kriminellen Welt erheblich verbessert. Die Weiterentwicklung der KI-Technologie führt Cyberkriminelle dazu Experimentieren Sie mit neuen Modellen und Techniken von Cyberangriffen. Ein Beispiel ist WurmGPT, ein KI-Sprachmodell, das entwickelt wurde, um Hackern ohne ethische Einschränkungen zu helfen, das eingestellt wurde, nachdem es die Aufmerksamkeit der Medien auf sich gezogen hatte. Seitdem nutzen Cyberkriminelle lieber bestehende Tools, die zuverlässig funktionieren, als neue KI-Modelle zu entwickeln.

Nach der MIT Technology Review, KI-basierte Angriffe können sein in einige Haupttypen unterteilt: Phishing, Deepfakes, Erstellung gefälschter Dokumente und Offenlegung privater Informationen online sowie Jailbreaking von KI-Modellen, jedes mit spezifischen Risiken. Schauen wir sie uns im Detail an:

• Phishing: Der primäre Einsatz generativer KI bei Kriminellen ist Phishing oder die Verlockung von Personen, um an vertrauliche Informationen zu gelangen. Die Integration von ChatGPT in Dienste zur Spam-Generierung ermöglicht Ihnen dies Verbesserung der an die Opfer gesendeten Nachrichten. OpenAI versucht, die Verwendung seiner Produkte für illegale Zwecke zu verhindern, aber es ist schwierig, alles zu kontrollieren.
• Deepfake-Audio: KI hat mich gemacht realistischere Deepfakes. Beispielsweise wurde ein Mitarbeiter in Hongkong durch einen Deepfake des CFO seines Unternehmens um 25 Millionen US-Dollar betrogen. Audio-Deepfakes sind billig und einfach zu machen und kann für überzeugende Betrügereien eingesetzt werden.
• Bestehen Sie Identitätskontrollen: Kriminelle nutzen Deepfakes, um Bypass-Verifizierungssysteme der Identität von Banken und Kryptowährungsplattformen. Sie können falsche Identitäten erstellen, indem sie ein gefälschtes Bild über ein echtes Gesicht legen, um Verifizierungssysteme zu täuschen.
• Jailbreak-as-a-Service: Kriminelle bieten Jailbreak-Dienste für an KI-Modelle manipulieren und ihre Schutzmaßnahmen umgehen. Auf diese Weise erhalten Sie Antworten darauf, wie Sie illegale Aktivitäten durchführen können, beispielsweise das Schreiben von Code für Ransomware. Es ist ein ständiges Katz-und-Maus-Spiel zwischen KI-Unternehmen und schlechten Akteuren.
• Doxxing und Überwachung: KI-Sprachmodelle eignen sich perfekt für Doxxing, d.h Offenlegung privater Informationen im Internet. Sie können aus Daten im Internet auf persönliche Informationen schließen und so die Gefährdung der Menschen erhöhen.

Cyberangriffe gegen KI

Neben der Möglichkeit, komplexere Angriffe zu erstellen, ist es wichtig, auch darüber nachzudenken KI-Abwehr vor Cyberangriffen. In einer Zeit, in der es an Abwehrmaßnahmen gegen Cyberangriffe auf Systeme der künstlichen Intelligenz mangelt und die Herausforderungen für nationale kritische Infrastrukturen zunehmen, hat das National Institute of Standards and Technology (Nisch), eine US-Regierungsbehörde, die Technologiestandards und -richtlinien entwickelt, veröffentlichte einen Bericht mit dem Titel „Gegnerisches maschinelles Lernen: Eine Taxonomie und Terminologie von Angriffen und Schadensbegrenzungen (NIST.AI.100-2)“. Dieser Bericht zielt darauf ab, wirksame Gegenmaßnahmen zu implementieren, um der Komplexität und Vielfalt der Bedrohungen zu begegnen, denen KI-Systeme ausgesetzt sind.

Um Bedrohungen für KI-Systeme zu begegnen, ist dies unerlässlich wirksame Gegenmaßnahmen ergreifen. Der NIST-Bericht identifiziert vier Hauptangriffskategorien:

• Ausweichangriffe: Diese Angriffe erfolgen nach der Bereitstellung des KI-Systems und zielen darauf ab, eine Eingabe zu ändern, um die Reaktion des Systems zu beeinflussen, beispielsweise durch das Einfügen falscher Beschilderungen, um autonome Fahrzeuge zu verwirren.
• Vergiftungsangriffe: Sie treten während der Lernphase des Systems auf und führen beschädigte Daten, wie z. B. unangemessene Sprache, in Chats ein, was dazu führt, dass der Chatbot diese in zukünftigen Interaktionen verwendet.
• Angriffe auf die Privatsphäre: Diese Angriffe zielen darauf ab, vertrauliche Informationen aus der KI oder Trainingsdaten für den Missbrauch zu extrahieren, z. B. das Reverse Engineering eines Modells durch legitime Fragen an einen Chatbot.
• Missbrauchsattacken: Sie zielen darauf ab, der KI schlechte Daten aus einer legitimen, aber kompromittierten Quelle zuzuführen und so ihren Verwendungszweck zu verändern. Anders als bei Giftangriffen nutzen diese legitime Quellen, um falsche Informationen einzuschleusen.

Die aktuelle Herausforderung der Cybersicherheit muss es also versuchen Systeme der künstlichen Intelligenz schützen e deren böswillige Nutzung verhindern durch Cyberangriffe.