Deepfakes & Desinformation

China hat sich zum Ziel gesetzt, künstliche Intelligenz (KI) als Motor für gemeinsamen Wohlstand zu nutzen, während die Kluft zwischen einkommensstarken und einkommensschwachen Ländern in Bezug auf KI-Technologien weiter wächst. Ein Beispiel für Chinas Engagement ist das Wettervorhersagesystem MAZU, das Pakistan bei der frühzeitigen Erkennung extremer Wetterereignisse unterstützt. Bei der Weltkonferenz für künstliche Intelligenz in Shanghai betonte Präsident Xi Jinping die Notwendigkeit einer menschenzentrierten Herangehensweise und internationaler Zusammenarbeit zur Schaffung eines fairen globalen KI-Governance-Systems. China plant, 30 Länder bei der Nutzung des MAZU-Systems zu unterstützen und 5.000 KI-Fortbildungsplätze für Entwicklungsländer anzubieten. Open-Source-Modelle wie DeepSeek und Alibabas Qwen senken die Kosten für KI-Technologien und ermöglichen mehr Ländern den Zugang zur digitalen Transformation. Diese Initiativen zielen darauf ab, die digitale Kluft zu überbrücken und sicherzustellen, dass neue Technologien der gesamten Menschheit zugutekommen. China hat bereits Programme zur Förderung der globalen KI-Kooperation ins Leben gerufen, um den Dialog und Wissensaustausch zwischen den Ländern zu stärken.

Netflix hat bekannt gegeben, dass in etwa 300 seiner Filme und TV-Shows generative künstliche Intelligenz (KI) eingesetzt wird, oft unbemerkt von den Zuschauern. Diese Technologie kommt vor allem in der Postproduktion zum Einsatz, um komplexe Szenen wie Menschenmengen und Kampfsequenzen zu erstellen, die sonst möglicherweise weggelassen worden wären. Der Einsatz von KI ermöglicht es dem Streaming-Dienst, qualitativ hochwertigere Inhalte schneller und kostengünstiger zu produzieren. Darüber hinaus wird KI verwendet, um personalisierte und interaktive Nutzererlebnisse zu schaffen, etwa durch verbesserte Vorschläge und Suchfunktionen. Diese Ankündigung wurde in einem Brief an die Aktionäre veröffentlicht und soll das Vertrauen der Investoren stärken, während Netflix mit einem Rückgang des Umsatzwachstums und internen Herausforderungen kämpft. Experten sehen das Unternehmen in einer Phase der Neuausrichtung, insbesondere nach dem Verlust eines Mitbegründers und dem zunehmenden Wettbewerb durch Plattformen wie YouTube.

Netflix hat KI mittlerweile in etwa 300 Produktionen integriert, insbesondere in der Postproduktion, was die Effizienz des gesamten Produktionsprozesses erheblich steigert. Co-CEO Ted Sarandos erklärte, dass KI von der Konzeptentwicklung bis zur Auslieferung eingesetzt wird, wodurch Szenen, die zuvor aus Budget- oder Zeitgründen gestrichen wurden, nun realisiert werden können. Ein Beispiel ist die Dokuserie "The American Experiment", die 17 Minuten KI-unterstütztes Filmmaterial enthält, das doppelt so schnell und zu halbierten Kosten produziert wurde. Sarandos betont, dass die Einsparungen in die Produktion weiterer Inhalte fließen sollen, anstatt das Budget von 20 Milliarden Dollar zu kürzen. Er hebt hervor, dass KI die Kreativität nicht ersetzt, sondern Künstlern bessere Werkzeuge bietet, um ihre Visionen umzusetzen. Trotz kreativer Bedenken zeigt Netflix' Vorgehen, wie schnell sich KI in der Unterhaltungsbranche verbreitet, während viele Studios ähnliche Technologien nutzen, ohne dies öffentlich zu kommunizieren.

TikTok hat ein KI-gestütztes Tool eingeführt, das Videos auf Deepfakes und unautorisierte digitale Abbildungen scannt, um Erstellern zu helfen, synthetische Inhalte zu kennzeichnen und zu melden. Diese Funktion ist zunächst einer ausgewählten Gruppe von US-Creators zugänglich und soll den Schutz der digitalen Identität der Nutzer stärken, insbesondere angesichts der Bedrohungen durch generative KI. Um die Funktion nutzen zu können, müssen Ersteller ihre Identität über einen Drittanbieter verifizieren, indem sie ein Live-Selfie und einen Ausweis einreichen. Obwohl TikTok keine Details zur Funktionsweise der Technologie preisgibt, wird vermutet, dass ein Referenzbild zur Identifizierung von Deepfakes benötigt wird. Die Einführung erfolgt in einem Wettbewerbsumfeld, in dem auch andere Plattformen wie YouTube ähnliche Maßnahmen ergreifen. TikTok plant, den Zugang basierend auf Nutzerfeedback zu erweitern, hat jedoch keine konkreten Zeitpläne für eine vollständige Einführung. Die Partnerschaft mit dem Identitätsverifizierungsunternehmen Jumio zeigt das Engagement von TikTok, bringt jedoch zusätzliche Hürden für die Nutzer mit sich. Insgesamt zielt TikToks Ansatz darauf ab, Erstellern in einem sich schnell entwickelnden Umfeld von synthetischen Medien Unterstützung zu bieten.

SpaceXAI hat den Quellcode seines KI-Tools Grok Build veröffentlicht, nachdem bekannt wurde, dass es unbemerkt komplette Git-Repositories von Nutzern in einen Google-Cloud-Speicher hochgeladen hatte. Dieser Schritt soll Transparenz schaffen und das Vertrauen der Nutzer zurückgewinnen, während das Unternehmen versichert, dass alle hochgeladenen Daten gelöscht wurden. Der Vorfall wurde von einem Sicherheitsforscher aufgedeckt, der die unerlaubte Datenübertragung analysierte, obwohl Nutzern der Zugriff auf die Dateien verwehrt war. SpaceXAI stoppte daraufhin den Upload und Elon Musk sicherte die Löschung der Daten zu. Grok Build, ein terminalbasierter KI-Programmierassistent, war bereits zuvor in die Kritik geraten, unter anderem wegen der Erstellung sexualisierter Deepfakes und der Verbreitung rechtsextremer Inhalte. Diese wiederholten Kontroversen werfen Fragen zur Integrität des KI-Werkzeugs auf, das ursprünglich als Konkurrenz zu anderen KI-Chatbots entwickelt wurde.

Elastic hebt die Rolle von Künstlicher Intelligenz (KI) im Bewerbungsprozess hervor, betont jedoch die Wichtigkeit der Authentizität der Bewerber. Während KI hilfreich sein kann, um Gedanken zu ordnen und Antworten auf Interviewfragen zu formulieren, sollte sie nicht dazu verwendet werden, falsche Informationen über Erfahrungen oder Fähigkeiten zu präsentieren. Das Unternehmen ermutigt Bewerber, ihre individuellen Perspektiven und Erlebnisse zu teilen, anstatt eine unechte Persona zu kreieren. Um Fairness zu gewährleisten, nutzt Elastic KI-Überwachungstools zur Erkennung von Betrugsversuchen. Bei absichtlicher Falschangabe drohen Disqualifikation oder sogar Kündigung, falls der Bewerber bereits eingestellt wurde. Die Unternehmenskultur von Elastic basiert auf Vertrauen, weshalb Ehrlichkeit von Beginn an geschätzt wird.

Index Engines, ein führendes Unternehmen im Bereich Cyber-Resilienz, warnt vor den zunehmenden Bedrohungen durch KI-gesteuerte Ransomware-Modelle wie Mythos und JadePuffer, die traditionelle Sicherheitsmaßnahmen umgehen und Angriffe automatisieren. Diese Entwicklungen erfordern eine grundlegende Neuausrichtung der Sicherheitsstrategien von Organisationen, um die Datenintegrität und intelligente Wiederherstellung zu gewährleisten. Die neuen KI-Modelle beschleunigen und optimieren bestehende Angriffswege, was den Übergang von reaktiven zu proaktiven Sicherheitsansätzen notwendig macht. Index Engines betont, dass kein Sicherheitsprogramm alle Schwachstellen beseitigen kann, was die Bedeutung einer soliden Datenwiederherstellungsstrategie unterstreicht. Ihr Produkt CyberSense bietet eine hochpräzise Erkennung von Datenkorruption durch Ransomware und ermöglicht es Organisationen, mit Vertrauen wiederherzustellen. CyberSense nutzt einen patentierten KI-Prozess zur automatisierten Bedrohungserkennung und -analyse, was zu einer beeindruckenden Genauigkeit von 99,99 % führt.

Meta hat kürzlich Muse Image eingeführt, einen KI-Generator, der es Nutzern ermöglicht, Bilder von Instagram-Profilen zu manipulieren. Diese Technologie birgt erhebliche Risiken, insbesondere für Frauen in Regionen wie Südasien und dem Nahen Osten, wo selbst harmlose Bilder zu schwerwiegenden Missbrauchsformen führen können. Studien zeigen, dass viele Frauen Opfer von Erpressung und Missbrauch werden, während Big Tech oft nicht angemessen auf diese Probleme reagiert, da ihre Richtlinien auf westlichen Vorstellungen von Intimität basieren. Die aktuelle Strategie der Unternehmen, die auf KI-Moderation setzt, berücksichtigt nicht die zentrale Frage des Einvernehmens, die für viele Betroffene entscheidend ist. Nach öffentlicher Kritik zog Meta Muse Image innerhalb von 72 Stunden zurück. Um die Sicherheit der Nutzer zu gewährleisten, sollten Unternehmen einen konsensbasierten Ansatz verfolgen, der kulturelle Unterschiede berücksichtigt, und in gut ausgebildete menschliche Moderationsteams investieren.

Apple hat die Beta-Version von iOS 27 veröffentlicht, jedoch bleibt die neue Siri-KI in Europa aufgrund des Digital Markets Act (DMA) gesperrt. Während Nutzer in den USA und China die vollständigen KI-Funktionen nutzen können, sind iPhone- und iPad-Besitzer in der EU von diesen Neuerungen ausgeschlossen. In China hat Apple die KI bereits registriert und verwendet lokale Modelle, um den Vorschriften gerecht zu werden. Die Siri-KI bietet in unterstützten Regionen beeindruckende Funktionen wie die Suche nach persönlichen Daten und die Erkennung von Objekten. Trotz des Fehlens dieser KI-Features bringt das Update signifikante Leistungsverbesserungen, darunter schnellere App-Starts und verbesserte Fotoverarbeitung. Beta-Tester müssen sich in eine Warteliste eintragen, da die KI mehrere Tage benötigt, um die Gerätedaten zu indexieren. Die finale Version von iOS 27 wird für September 2026 erwartet, zusammen mit einer neuen Hardware-Generation.

Am 14. Juli 2026 hat das Weiße Haus die Initiative Gold Eagle ins Leben gerufen, ein bundesweites Cybersecurity-Clearinghouse, das die Erkennung und Behebung von Softwareanfälligkeiten in Open-Source-Code und kritischer Infrastruktur koordinieren soll. Mithilfe von Künstlicher Intelligenz wird angestrebt, Sicherheitslücken effizienter zu identifizieren und schneller auf Schwachstellen zu reagieren. Diese Maßnahme ist eine Antwort auf die zunehmenden Bedrohungen im Cyberraum und zielt darauf ab, die Zusammenarbeit zwischen verschiedenen Akteuren im Bereich der Cybersicherheit zu verbessern. Durch die Schaffung eines zentralen Anlaufpunkts für Informationen und Ressourcen wird eine signifikante Reduzierung von Cyberangriffen und eine Stärkung der nationalen Sicherheit erwartet. Gold Eagle könnte somit einen entscheidenden Beitrag zur Verbesserung der Cyberabwehr leisten.

Die Integration von Künstlicher Intelligenz (KI) im Nuklearenergiemarkt transformiert die Betriebsabläufe durch die Kombination fortschrittlicher digitaler Technologien mit spezialisiertem Fachwissen. Dies führt zu einer erhöhten Sicherheit durch prädiktive Wartung, kontinuierliche Systemüberwachung und frühzeitige Erkennung von Anomalien, wodurch Risiken minimiert und die Zuverlässigkeit gesteigert werden. Zudem optimiert KI die Prozesse in der nuklearen Abfallwirtschaft und verbessert die Handhabung sowie Entsorgung radioaktiver Materialien. Kleine modulare Reaktoren (SMRs) profitieren ebenfalls von KI, was deren Leistung und Kosteneffizienz erhöht. Trotz der Vorteile bestehen technische und regulatorische Herausforderungen, die eine sorgfältige Validierung der KI-Systeme erfordern, um den strengen Sicherheitsstandards zu genügen. Die Marktprognose zeigt ein jährliches Wachstum von 16,6 % bis 2035, unterstützt durch günstige Regierungsrichtlinien und strategische Investitionen. Nordamerika und der asiatisch-pazifische Raum, insbesondere China und Japan, führen die KI-Integration an und investieren aktiv in die Modernisierung ihrer nuklearen Infrastruktur.

Doceree hat mit Daily Command ein innovatives Betriebssystem für die Pharma-Kommerzialisierung eingeführt, das die gesamte Reise von der Arztaufklärung bis zur Verschreibung von Medikamenten integriert. Basierend auf dem speziell für die Branche entwickelten KI-Modell Semmelweis, ersetzt Daily Command die bisher fragmentierten Tools und Datenstrukturen der Pharma-Werbung. Die Plattform ermöglicht Pharmaunternehmen, Agenturen und Verlegern, ihre Marketingstrategien durch Echtzeit-Analysen zu optimieren und bietet eine geschlossene Schleife von Aktivierung bis Ergebnis. Sie nutzt klinische Intent-Signale zur Erkennung der Absichten von Ärzten und gibt Empfehlungen, die den medizinischen, rechtlichen und regulatorischen Vorgaben entsprechen. Mit der Analytics Workbench können Unternehmen ihre Daten datenschutzkonform kombinieren, um die Effektivität ihrer Kampagnen zu messen. Daily Command ist interoperabel und lässt sich mit bestehenden Systemen und generativer KI integrieren. Erste Tests mit Partnern zeigen signifikante Verbesserungen in der Kampagnenleistung und Effizienz, was einen Paradigmenwechsel in der Pharma-Kommerzialisierung darstellt.

In Deutschland nehmen kriminelle Betrüger zunehmend raffinierte Methoden wie KI-generierte Deepfakes und mehrstufige Phishing-Kampagnen in Anspruch, um Verbraucher zu täuschen. Ein besonders schwerwiegender Fall betrifft eine Frau aus Lichtenberg, die über eine Million Euro verlor, nachdem sie einem täuschend echten Deepfake-Video von TV-Moderator Markus Lanz aufgesessen war, das eine gefälschte Investmentplattform bewarb. Die Betrüger hatten über Monate hinweg Vertrauen aufgebaut, was zu Überweisungen von insgesamt 460.000 Euro führte. Die Polizei warnt, dass solche KI-Videos kaum von echten Aufnahmen zu unterscheiden sind, und empfiehlt, bei unerwarteten Anrufen Codewörter zur Identitätsüberprüfung zu verwenden. Zudem wurde eine neue Phishing-Kampagne entdeckt, die sich als American Express ausgibt, während andere Betrüger über Messenger-Dienste unrealistisch niedrige Preise anbieten. Besonders Militärangehörige und Senioren sind häufig Ziel solcher Betrugsmaschen. Trotz einiger Erfolge bei der Bekämpfung bleibt die Realität, dass viele Opfer ihr Geld in der Regel nicht zurückerhalten.

QScreen AI Inc. hat ein zweites US-Patent erhalten, das die Erkennung von Beeinträchtigungen mit einer einzigen Kamera auf Standardhardware ermöglicht. Dieses Patent, das am 26. Mai 2026 erteilt wurde, erweitert den Schutz der Firma auf eine Methode, die zuvor nur mit mehreren Bildern funktionierte. Zusammen mit dem ersten Patent, das mehrkamerabasierte Systeme abdeckt, bietet QScreen nun umfassenden Schutz für verschiedene Anwendungen, insbesondere im Gesundheitswesen, der Verteidigung und im Transportwesen, ohne dass neue Geräte angeschafft werden müssen. Die patentierte Methode ist die Grundlage für die Screening-Plattform von QScreen, die physiologische, akustische und verhaltensbezogene Signale analysiert und die Ergebnisse an Fachkräfte weiterleitet. Dr. Rahul Kushwah, COO von QScreen, hebt die Bedeutung des Patents für die kommerzielle Positionierung des Unternehmens hervor, da es ihnen ermöglicht, auf einem geschützten Markt zu operieren. Die Entwicklung dieser Patente seit 2019 positioniert QScreen AI als Vorreiter im Bereich der kamerabasierten Beeinträchtigungsprüfung.

Das Indian Computer Emergency Response Team (CERT-In) hat ein KI-gestütztes "War Room" ins Leben gerufen, um die Cybersicherheitsfähigkeiten des Landes zu verbessern. Diese Initiative wurde am 13. Juli von S. Krishnan, dem Sekretär für Elektronik und IT, während der Präsentation des zweiten Digital Threat Reports angekündigt. Krishnan unterstrich die Dringlichkeit, sich auf potenzielle Cyberbedrohungen in der digitalen Welt vorzubereiten. CERT-In testet fortschrittliche KI-Modelle zur Erkennung von Sicherheitslücken, die bereits in Übungsszenarien eingesetzt wurden und 60-70% der Fähigkeiten von Mythos erreichen. Diese Systeme sollen in einer Sandbox-Umgebung erprobt werden, um ihre Effektivität bei der Erkennung und Behebung von Sicherheitsanfälligkeiten zu evaluieren. Krishnan betonte zudem die Notwendigkeit kontinuierlicher Überwachung, da trotz umfassender Audits und Beratungen oft empfohlene Sicherheitsmaßnahmen nicht vollständig umgesetzt werden. Die effektive Informationsweitergabe zwischen Organisationen wurde als entscheidend hervorgehoben, um die defensive Cyberoperationen zu stärken und die Cybersicherheitslage Indiens insgesamt zu verbessern.

LG Electronics hat innovative, datengestützte HVAC-Lösungen entwickelt, um Unternehmen in der Sommerhitze eine proaktive Kühlung zu bieten. Mit der LG BECON-Cloud und KI-gestützter prädiktiver Wartung können Firmen von reaktiven Reparaturen zu einem kontinuierlichen Kühlmanagement übergehen. Diese proaktive Strategie hilft, kostspielige Betriebsunterbrechungen und Notfallreparaturkosten zu minimieren sowie den Energieverbrauch während Spitzenzeiten zu optimieren. Das LG BECON-System überwacht in Echtzeit die Gesundheit der Geräte, den Kältemittelstand und betriebliche Anomalien, was die Energieeffizienz steigert und die Lebensdauer der HVAC-Anlagen verlängert. Besonders in der extremen Sommerhitze des Nahen Ostens ermöglicht diese Technologie Unternehmen, die Leistung ihrer Kühlsysteme zu maximieren und den Nutzerkomfort zu gewährleisten. Durch die frühzeitige Erkennung potenzieller Systemausfälle werden unangenehme Überraschungen und Störungen im Geschäftsbetrieb vermieden.

Die Studie von Forschern der Stanford University, des Imperial College London und des Internet Archive, die drei Jahre nach der Einführung von ChatGPT durchgeführt wurde, zeigt, dass 35 % der neuen Websites AI-generiert sind. Dies widerlegt die weit verbreitete Annahme, dass KI das Internet mit Falschinformationen überflutet. Stattdessen wird festgestellt, dass die Vielfalt der Inhalte im Internet abnimmt. Bei der Analyse von Suchergebnissen fiel auf, dass die Antworten zwar korrekt sind, jedoch in Struktur und Ton ähnlich, was zu einer homogenen Informationslandschaft führt. Diese Ergebnisse deuten darauf hin, dass KI nicht die Genauigkeit der Informationen beeinträchtigt, sondern die Vielfalt der Perspektiven und Ansichten einschränkt. Die Studie hebt somit eine unerwartete Bedrohung hervor, die bislang nicht ausreichend beachtet wurde.

CHAI AI, ein Unternehmen mit Sitz in Palo Alto, Kalifornien, das aus einem kleinen Team in Cambridge, UK, hervorgegangen ist, befindet sich derzeit im Überprüfungsprozess des Apple App Stores. CEO William Beauchamp hebt hervor, dass die neueste Version der App die sicherste ist, die sie je veröffentlicht haben. Mit einem jährlichen Umsatz von über 100 Millionen Dollar hat das Team intensiv an der Verbesserung der Sicherheitsstandards gearbeitet, um die Nutzererfahrung zu optimieren und die Sicherheit der Nutzer und der Gemeinschaft zu gewährleisten. Zu den Herausforderungen gehören die Moderation nutzergenerierter Inhalte sowie die Sicherheit von Modellen und Algorithmen, die durch gezielte Tests angegangen werden. Die jüngsten Sicherheitsmaßnahmen umfassen ein neues Governance-System, das die bestehenden Protokolle verbessert und den menschlichen Einfluss verstärkt. CHAI AI verfolgt das Ziel, durch fortschrittliche KI-Techniken unterhaltsame und interaktive Erlebnisse zu schaffen, wobei die Entwicklung von KI im Dienste des menschlichen Wohls im Mittelpunkt steht.

Eine aktuelle Studie von Pangram hat ergeben, dass LinkedIn mit 41 Prozent der als KI-generiert identifizierten langen Beiträge die Plattform mit dem höchsten Anteil an AI-Inhalten ist. Trotz der Tatsache, dass LinkedIn nur ein Drittel der insgesamt untersuchten Beiträge ausmachte, entfielen fast zwei Drittel des erkannten KI-Inhalts auf diese Plattform. Im Vergleich dazu waren auf X/Twitter nahezu die Hälfte der langen Artikel AI-generiert oder -unterstützt, während Substack mit etwa 10 Prozent den niedrigsten Anteil aufwies. Die Analyse umfasste über eine Million Beiträge, die zwischen April und Juni 2026 auf fünf Plattformen veröffentlicht wurden. Pangram betont, dass ihr Erkennungsmodell eine niedrige Fehlerrate aufweist, jedoch könnte die tatsächliche Rate an KI-Inhalten höher sein, da das Modell möglicherweise besser darin ist, menschlich verfasste Inhalte zu identifizieren. Obwohl die Studie keine Aussagen zur Qualität der Inhalte trifft, hat LinkedIn bereits Maßnahmen ergriffen, um gegen KI-generierte Beiträge vorzugehen.

Die chinesische KI-Firma Robbyant hat ihr neues Modell LingBot-Depth 2.0 für die räumliche Wahrnehmung von Robotern vorgestellt, das signifikante Fortschritte in der Tiefenwahrnehmung in komplexen Innenräumen bietet. Im Vergleich zum Vorgängermodell reduziert es den Tiefenfehler um über 50 % und verbessert die Erkennung transparenter Oberflächen wie Glas und Spiegel. Diese Fortschritte sind auf das zugrunde liegende Modell LingBot-Vision zurückzuführen, das eine innovative Vortrainingsmethode nutzt, um die räumliche Struktur besser zu erfassen. LingBot-Depth 2.0 hat bereits die Zertifizierung für kommerzielle Anwendungen erhalten und zeigt auch Verbesserungen in der Kantenerkennung sowie bei der Identifizierung kleiner Objekte. In Zusammenarbeit mit Orbbec plant Robbyant die Entwicklung neuer Hardwarelösungen zur Datensammlung, um qualitativ hochwertige Trainingsdaten zu generieren. Zukünftige Updates sollen die Genauigkeit und Stabilität der Datenbasis für die Ausbildung von KI-Systemen in realen Umgebungen weiter optimieren.

Meta hat ein neues KI-Detektionswerkzeug vorgestellt, das Schwierigkeiten hat, beschnittene AI-generierte Bilder zu erkennen. In einer Analyse von 40 Bildern, die mit dem Modell Muse Image erstellt wurden, konnte das Tool zwar alle Originalbilder identifizieren, versagte jedoch bei 55% der beschnittenen Varianten. Meta nutzt ein unsichtbares Wasserzeichensystem namens Content Seal, um die Herkunft der Bilder zu bestätigen. Dieses Wasserzeichen kann jedoch bei stark beschnittenen Bildern verloren gehen, was die Verifizierung erschwert. Diese Problematik könnte besonders während der US-Wahlen zu Herausforderungen führen, da die Erkennung von Deepfakes komplizierter wird. Experten weisen darauf hin, dass auch andere Unternehmen wie Google und OpenAI ähnliche Schwierigkeiten mit ihren Detektionswerkzeugen haben. Trotz dieser Herausforderungen wird Wasserzeichen als vielversprechende Lösung für die Verifizierung von KI-generierten Inhalten angesehen, auch wenn sie nicht immer zuverlässig sind.

Die Psychologin Dr. Clare Sutherland und ihr Team an der Universität Aberdeen erforschen, wie Menschen lernen können, AI-generierte Deepfakes von echten Bildern zu unterscheiden. Angesichts der fortschrittlichen Technologie, die realistische Gesichter erstellt, wird die Erkennung von Fälschungen zunehmend schwieriger. Die Forscher haben festgestellt, dass gezieltes Training Menschen befähigt, subtile Unterschiede zu erkennen, indem sie Merkmale wie Symmetrie und Ausdrucksvermögen analysieren. In ihren Studien konnten Teilnehmer ihre Erkennungsgenauigkeit von etwa 40 % auf bis zu 80 % steigern. Diese Fähigkeit ist entscheidend, da die Bedrohung durch Betrug und politische Manipulation durch Deepfakes wächst, was potenziell zu Milliardenverlusten führen kann. Gleichzeitig gibt es auch positive Anwendungen der Technologie, etwa die Darstellung vermisster Personen in verschiedenen Altersstufen. Trotz der Herausforderungen bleibt die Hoffnung, dass Menschen durch Übung und Training besser im Erkennen von AI-Fälschungen werden können.

Im ersten Quartal 2026 verzeichnete der Markt für Smartwatches mit Edge-KI ein signifikantes Wachstum, wobei diese Geräte ein Viertel aller weltweiten Auslieferungen ausmachten und einen Anstieg von 70 Prozent im Vergleich zum Vorjahr aufwiesen. Der Einsatz von Künstlicher Intelligenz, die direkt auf den Geräten verarbeitet wird, spielt eine entscheidende Rolle, da Edge-KI-fähige Smartwatches Gesundheitsdaten lokal auswerten und Echtzeit-Warnungen bieten, während sie gleichzeitig die Privatsphäre der Nutzer schützen. Apple dominiert diesen Markt mit einem beeindruckenden Anteil von rund 90 Prozent der Auslieferungen, während Wettbewerber wie Huawei und Qualcomm an neuen Chips arbeiten, um im Rennen um innovative Funktionen mitzuhalten. Der Trend zu fortschrittlicheren Gesundheitsanwendungen, wie der Erkennung von Schlafapnoe, könnte dazu führen, dass der Marktanteil von Edge-KI-Smartwatches bis Ende 2026 auf über 32 Prozent ansteigt.

Im Juli 2026 haben mehrere Verlage, darunter die New York Times und die Chicago Tribune, vor einem Bundesgericht in Manhattan Sanktionen gegen OpenAI beantragt. Sie werfen dem Unternehmen vor, über zwei Jahre hinweg entscheidende Beweise in einem Urheberrechtsstreit absichtlich verschleiert zu haben. OpenAI soll sich geweigert haben, Trainingsdaten und Nutzerprotokolle offenzulegen, obwohl es technisch dazu in der Lage war. Ein Ingenieur des Unternehmens gab an, dass interne Suchen in den Trainingsdaten durchgeführt wurden und Werkzeuge zur Erkennung urheberrechtlich geschützter Inhalte entwickelt wurden. Zudem wird OpenAI vorgeworfen, gegen eine gerichtliche Aufbewahrungsanordnung verstoßen und wichtige Beweise gelöscht zu haben. Die Verlage fordern, dass das Gericht anerkennt, dass ChatGPTs Ausgaben auf urheberrechtlich geschützten Werken basieren, und spezielle Anweisungen an die Geschworenen bezüglich der gelöschten Beweise erteilt. OpenAI wies die Vorwürfe zurück und beruft sich auf die Fair-Use-Regelung. Der Rechtsstreit hat bereits hohe Kosten verursacht, wobei die New York Times über 28 Millionen US-Dollar ausgegeben hat. Der Fall verdeutlicht die Spannungen in der Medienbranche im Umgang mit generativer KI und die finanziellen Risiken solcher Rechtsstreitigkeiten.

Die neue Smartphone-Malware PromptSpy alarmiert Sicherheitsbehörden, da sie generative KI zur Laufzeit einsetzt, um persönliche Daten zu stehlen. Diese Schadsoftware tarnt sich als Bildungs- und Trainings-Apps und verbreitet sich über soziale Medien und Kurznachrichten. Sie kann SMS abfangen und Passwörter auslesen, wobei eine verstärkte Verbreitung insbesondere in Ferienzeiten beobachtet wird. Sicherheitsforscher haben zudem gefälschte Installationsprogramme für bekannte Software entdeckt, die Geräte in kriminelle Netzwerke einbinden. PromptSpy nutzt Googles KI-Plattform Gemini zur Analyse gestohlener Daten direkt auf dem Smartphone, was die Erkennung erschwert. In Reaktion auf diese Bedrohung haben Sicherheitsbehörden weltweit eine Großrazzia gegen Betrugsnetzwerke durchgeführt, bei der über 5.800 Verdächtige festgenommen wurden. Die Zunahme von KI-gestützten Angriffen und Datenschutzmängeln bei legitimen Apps verstärken die Sorgen um die Sicherheit von Nutzerdaten. Experten empfehlen, Apps nur über offizielle Stores herunterzuladen und Vorsicht bei QR-Codes sowie verdächtigen E-Mails walten zu lassen.

Der französische Premierminister Sébastien Lecornu hat einen Gesetzentwurf vorgestellt, der die Strafen für die Verbreitung von Falschinformationen während Wahlen erheblich erhöhen soll. Angesichts der Bedrohungen durch KI-gesteuerte Manipulation und ausländische Einmischung vor der bevorstehenden Präsidentschaftswahl sieht der Entwurf vor, die Strafen für die Produktion von Fehlinformationen zu verdreifachen. Zudem soll ein Notfallverfahren zur Löschung falscher Inhalte auf lokale Wahlen ausgeweitet und eine permanente "Öffentliche Informationskommission" eingerichtet werden. Kritiker äußern Bedenken hinsichtlich der Definition von Falschinformationen und der möglichen Einschränkung der Meinungsfreiheit. Der Gesetzentwurf wird Ende Juli im Ministerrat präsentiert und könnte auf bestehenden Gesetzen zur Bekämpfung von Desinformation basieren. Die Diskussion über den Umgang mit tiefen Fälschungen und die Balance zwischen Schutz und Kontrolle bleibt angespannt, wobei die Wahrnehmung der neuen Kommission als hilfreiches Instrument oder Zensurbehörde von der genauen Gesetzesformulierung abhängt.

MITS Capital hat in Dropla Tech investiert, ein dänisch-ukrainisches Unternehmen, das sich auf die Entwicklung von NATO-zertifizierten Systemen zur Erkennung explosiver Bedrohungen und unbemannten Bodenfahrzeugen spezialisiert hat. Die Partnerschaft zielt darauf ab, die Produktionskapazitäten von Dropla Tech zu erweitern und die Integration von Verteidigungstechnologien zwischen der Ukraine und Europa zu fördern. Gegründet von vier Ukrainern im Jahr 2023, hat Dropla Tech bereits das Produkt Blue Eyes Warbox entwickelt, das explosive Bedrohungen in Echtzeit erkennt und sowohl für militärische als auch humanitäre Einsätze, wie Minenräumungen, gedacht ist. Durch die Teilnahme am MITS Acceleration Program erhält das Unternehmen Zugang zu einem umfangreichen Netzwerk von Technologie- und Geschäftspartnern. Die Investition von MITS Capital wird es Dropla Tech ermöglichen, die Produktion auf bis zu 3.000 unbemannte Fahrzeuge pro Jahr zu steigern und die Zusammenarbeit mit anderen Unternehmen im Bereich Verteidigungstechnologie zu intensivieren.

Die neue Vision-AI-Software Neuralyze® von senswork bietet eine innovative Lösung für die steigenden Anforderungen an Qualität und Durchsatz in der Industrie. Sie ermöglicht es, aus Bilddaten zu lernen und in Echtzeit zwischen guten und fehlerhaften Bauteilen zu unterscheiden. Die Software deckt alle Phasen eines Vision-AI-Projekts ab, von der Bilddatenverwaltung bis zum kontinuierlichen Monitoring, und legt großen Wert auf Zuverlässigkeit und Wartbarkeit. Typische Anwendungen umfassen die Erkennung von Oberflächenfehlern, Anomalien sowie Montage- und Teileidentifikation. Neuralyze® basiert auf offenen Standards und kann sowohl auf eigener Hardware als auch auf Edge-Hardware betrieben werden, was den Anwendern volle Datenhoheit und Unabhängigkeit von Anbietern ermöglicht. Mit über 15 Jahren Erfahrung in der industriellen Bildverarbeitung unterstützt senswork Fertigungsunternehmen durch Pilotprojekte und Machbarkeitsstudien bei komplexen Prüfaufgaben.

Eine aktuelle Untersuchung der BBC zeigt, dass KI-Chatbots anfällig für Manipulation sind und somit falsche Informationen verbreiten können. Technologieexperte Harry Kind erläutert die Ergebnisse und gibt praktische Tipps zur Überprüfung von Informationen im Internet. Er beschreibt einfache Schritte, um zwischen Fakten und Fiktion zu unterscheiden. Die Studie hebt hervor, dass die gezielte Beeinflussung von Chatbots eine ernsthafte Herausforderung darstellt, da sie zur Verbreitung von Fake News beitragen können. Dies hat erhebliche Auswirkungen auf die Informationsverbreitung und das Vertrauen in digitale Medien, was die Notwendigkeit verstärkt, kritisches Denken und Medienkompetenz zu fördern.

Eine Berliner Studie hat ergeben, dass KI-Chatbots häufig auf russische Propaganda zurückgreifen, wenn sie Informationen bereitstellen. Die Untersuchung zeigt, dass viele der verwendeten Quellen nicht vertrauenswürdig sind und eine verzerrte Sichtweise auf aktuelle Ereignisse vermitteln. Die Forscher analysierten die Antworten verschiedener Chatbots und fanden heraus, dass diese oft unkritisch mit Informationen umgehen und nicht zwischen glaubwürdigen und fragwürdigen Quellen unterscheiden. Dies wirft Fragen zur Zuverlässigkeit von KI-generierten Inhalten auf, insbesondere in Zeiten von Desinformation und Propaganda. Die Studie fordert eine sorgfältigere Überprüfung der Daten, die von KI-Systemen genutzt werden, um die Verbreitung von Falschinformationen zu verhindern.

Mindaugas Palaima, ein unzulässiger Vermieter in Bradford, wurde wegen gravierender Sicherheitsmängel in seinen illegalen Mietobjekten untersucht. Um den Eindruck zu erwecken, dass er Rauchmelder installiert hatte, verwendete er ein KI-generiertes Bild, das während einer Inspektion aufgedeckt wurde. Palaima hatte zwei Immobilien ohne die erforderlichen Genehmigungen in Mehrfamilienhäuser umgewandelt und vermietete diese unter dem Namen seiner Firma Instyle Aviation, während er selbst Mieter war. Die Ermittlungen zeigten, dass die Wohnungen erhebliche Sicherheitsrisiken aufwiesen, darunter fehlende Rauchmelder und Fluchtwege. Trotz einer Aufforderung zur Installation von Rauchmeldern schickte er ein gefälschtes Bild, was zu einem weiteren Besuch der Behörden führte, bei dem die Täuschung aufgedeckt wurde. Das Gericht sprach ihn in Abwesenheit schuldig und verhängte eine Geldstrafe von über 11.000 Pfund, einschließlich Kosten und Gerichtszuschlägen. Palaimas Verhalten stellte eine eklatante Missachtung der Sicherheitsvorschriften dar, was zu einem Notfallverbot für die betroffenen Immobilien führte.

Der Artikel "Building Your AI Brand" thematisiert, wie AI-Praktiker ihre Expertise effektiv präsentieren können, um im Markt erfolgreich zu sein. Der zentrale Unterschied zwischen aktiver Kundensuche und dem Erhalt von Empfehlungen liegt in der Markenbildung. Eine starke Marke entsteht durch die konsequente Demonstration spezifischer Fähigkeiten, die auf die Bedürfnisse einer Zielgruppe abgestimmt sind. Der Artikel identifiziert drei wesentliche Säulen für eine AI-Marke: eine unverwechselbare Markenstimme, vielfältige Content-Formate und ein strukturiertes System zur Ideenfindung. Der Aufbau von Autorität erfolgt schrittweise, beginnend mit der Wissensdemonstration bis hin zur Marktautorität, wo Gelegenheiten ohne aktive Akquise entstehen. Die Autoren betonen, dass der Erfolg nicht nur auf Talent basiert, sondern auch auf der Fähigkeit, kontinuierlich wertvolle Inhalte in relevanten Kanälen zu teilen. Letztlich wird die Verantwortung für die Markenbildung als professionelle Pflicht hervorgehoben, die es Praktikern ermöglicht, ihre Expertise potenziellen Kunden zugänglich zu machen.

Discord hat ein Problem in seinem KI-Moderationssystem eingeräumt, das dazu führte, dass über 8.000 Nutzer fälschlicherweise wegen harmloser Bilder, wie Tabellen und Schachbrettern, gesperrt wurden. Der Fehler, der seit Mai auftrat, betraf zusätzlich 200 Nutzer am vergangenen Wochenende, bevor das Unternehmen das Problem identifizieren und beheben konnte. Diese Vorfälle verdeutlichen die Herausforderungen der automatisierten Moderation, da viele Plattformen zunehmend auf solche Systeme angewiesen sind, um schädliche Inhalte zu erkennen. Discord erklärte, dass ihre Technologie Inhalte mit Datenbanken bekannter schädlicher Materialien abgleicht, was jedoch auch zu falschen Positivmeldungen führen kann. Nutzer äußerten auf sozialen Medien ihren Unmut über die dauerhaften Sperrungen, die insbesondere für berufliche oder soziale Nutzer gravierende Folgen haben können. Discord hat angekündigt, an besseren Sicherheitsvorkehrungen zu arbeiten, um ähnliche Vorfälle in Zukunft zu verhindern. Diese Problematik ist nicht neu, da auch andere Plattformen wie Instagram und Facebook ähnliche Beschwerden über automatisierte Sperrungen hatten, ohne dass Meta die Verantwortung übernahm.

Discord hat einen schwerwiegenden Fehler in seinem KI-Moderationssystem eingeräumt, der dazu führte, dass über 8.000 Nutzer fälschlicherweise gesperrt wurden. Automatisierte Systeme stuften harmlose Inhalte wie Excel-Tabellen und Schachbretter als schädlich ein, was zu automatischen Sperrungen ohne menschliche Überprüfung führte. Dieser Vorfall, der seit Mai andauert, wirft ernsthafte Fragen zur Zuverlässigkeit von KI in der Moderation auf, insbesondere auf einer Plattform, die kreative Zusammenarbeit und Gaming-Communities fördert. Betroffene Nutzer erlebten Frustration, da sie oft keine klaren Informationen oder Anfechtungsmöglichkeiten erhielten. Während Discord daran arbeitet, die gesperrten Konten wiederherzustellen, haben viele Nutzer möglicherweise bereits zu Alternativen wie Slack oder Microsoft Teams gewechselt. Der Vorfall verdeutlicht die Risiken der Automatisierung von Moderationsentscheidungen und zeigt den Bedarf an stärkerer menschlicher Aufsicht sowie verbesserten Anfechtungsprozessen. Dies dient als Weckruf für die Tech-Branche, dass die vollständige Automatisierung von Vertrauens- und Sicherheitsentscheidungen noch nicht ausgereift ist.

Haven, die KI-Sicherheitsbrowsererweiterung von MirrorTab, Inc., hat ein neues Design-Partnerprogramm ins Leben gerufen, das sich an wachsende Unternehmen und Managed Service Provider (MSPs) richtet. Das Programm zielt darauf ab, Partner aktiv in die Weiterentwicklung der Browser-Schutzplattform einzubeziehen, insbesondere in den Bereichen Verwaltung und Berichterstattung von Sicherheitsrisiken. Haven ermöglicht es Nutzern, Links und Login-Seiten in Echtzeit zu bewerten, ohne tiefgehendes Sicherheitswissen zu benötigen. Die Rückmeldungen von MSP-Besitzern sind durchweg positiv, da die Anwendung benutzerfreundlich und einfach zu implementieren ist. Teilnehmer des Programms erhalten frühzeitigen Zugang zu neuen Funktionen und können die Sicherheitslösungen aktiv mitgestalten. Haven bietet Unternehmen und MSPs die notwendige Sichtbarkeit zur Erkennung von Sicherheitsrisiken, ohne dass zusätzliche Sicherheitsressourcen erforderlich sind. Die Erweiterung ist kostenlos im Chrome Web Store erhältlich.

Das East Kent Hospitals NHS Trust hat als erstes Krankenhaus im Vereinigten Königreich das KI-Tool MEMORI eingeführt, das zur frühzeitigen Erkennung von Infektionen dient. Dieses System analysiert klinische Daten wie Blutuntersuchungen, Blutdruck und Temperatur, um das individuelle Infektionsrisiko jedes Patienten zu bestimmen. Durch den Einsatz von MEMORI kann das Pflegepersonal mehr Zeit mit den Patienten verbringen, anstatt sich mit der Durchsicht von Notizen zu beschäftigen. Die Einführung dieser Technologie steht im Einklang mit der NHS-Strategie, die den Übergang von analogen zu digitalen Lösungen fördert. MEMORI ist bereits als medizinisches Gerät lizenziert und wurde von einem Team aus Pflegekräften und Ärzten entwickelt, um den realen klinischen Anforderungen gerecht zu werden. Dr. Mike Bedford, Chief Clinical Information Officer des Trusts, betont, dass dies nur der Anfang sei und weitere Anwendungen der Technologie in Planung sind. Benedikt von Thüngen, Gründer von Sanome, dem Unternehmen hinter MEMORI, hebt hervor, dass die Technologie den Klinikern helfen soll, sich wieder auf die Patientenversorgung zu konzentrieren.

Die KI-Firma xAI von Elon Musk wurde im Frühjahr 2026 von SpaceX übernommen und trägt nun den Namen SpaceXAI, um die Verbindung zum Raumfahrtunternehmen zu verdeutlichen. Mit der Umbenennung wurde ein neues Logo auf der Plattform X vorgestellt. Obwohl keine offizielle Erklärung für den Namenswechsel vorliegt, wird vermutet, dass er die Zugehörigkeit der beiden Unternehmen stärken soll. SpaceXAI ist bekannt für den umstrittenen KI-Chatbot Grok, der wegen der Erstellung sexualisierter Deepfakes und rechtsextremer Inhalte in die Kritik geraten ist und in einigen Ländern blockiert wurde. Trotz dieser Skandale setzt das Unternehmen weiterhin auf Kooperationen mit anderen KI-Firmen, um Rechenleistung zu sichern. Musk verfolgt das ambitionierte Ziel, eine „maximal wahrheitssuchende KI“ zu entwickeln, doch xAI hat seit seiner Gründung im Jahr 2023 jährlich Milliardenverluste erlitten.

In einem aktuellen Kettenbrief auf WhatsApp wird vor einer angeblichen Gefahr durch eine neue Meta-KI gewarnt. Der Inhalt des Briefes suggeriert, dass die KI persönliche Daten der Nutzer ausspioniert und missbraucht. Experten warnen jedoch, dass solche Kettenbriefe oft auf Fehlinformationen basieren und Panik schüren. Die Verbreitung solcher Nachrichten kann zu einer erhöhten Unsicherheit und Misstrauen gegenüber Technologien führen. Zudem wird darauf hingewiesen, dass Nutzer durch das Teilen solcher Inhalte ungewollt zur Verbreitung von Falschinformationen beitragen. Es wird empfohlen, Informationen aus vertrauenswürdigen Quellen zu beziehen und kritisch zu hinterfragen, bevor man sie weiterverbreitet.

Forschende vom Fraunhofer-Institut und dem Bundesamt für Sicherheit haben ein neues Verfahren namens RealOrRender entwickelt, um Deepfakes zu erkennen und die Erklärbarkeit von KI-Entscheidungen zu verbessern. Angesichts der fortschrittlichen Technologien zur Erstellung realistischer Bilder und Videos wird die Unterscheidung zwischen echten und gefälschten Inhalten zunehmend schwieriger. RealOrRender nutzt einen hybriden Ansatz: Ein KI-Bildgenerator rekonstruiert das Originalbild, während ein weiteres KI-Modell die Klassifizierung vornimmt. Durch die Analyse von Rekonstruktionsfehlern kann das System mit einer Erkennungsleistung von 85 bis 91 Prozent feststellen, ob es sich um einen Deepfake handelt. Zudem erstellt es eine Heatmap, die Merkmale markiert, die auf eine Fälschung hinweisen. Diese Erklärbarkeit soll sowohl Experten als auch Nutzern helfen, die Entscheidungen der KI besser nachzuvollziehen und Vertrauen in die Ergebnisse zu gewinnen. RealOrRender wird bereits im BSI als Demonstrator zur Unterstützung der Deepfake-Identifizierung eingesetzt.

ALZAI Health Corp. hat eine strategische Partnerschaft mit Centauri Health Solutions geschlossen, um die KI-gestützte Identifizierung von Alzheimer-Risiken in den USA zu erweitern. Centauri bringt wertvolle Beziehungen zu Gesundheitsdienstleistern und Versicherungen ein, während ALZAI seine innovative Technologie zur Risikostratifizierung bereitstellt. Gemeinsam entwickeln sie ein System zur frühzeitigen Erkennung von Patienten mit hohem Risiko für nicht diagnostizierte Alzheimer-Erkrankungen. Diese Kooperation zielt darauf ab, die Einführung von ALZAIs Technologie im Medicare Advantage und anderen wertorientierten Versorgungsmodellen zu beschleunigen. Laut CEO Hayim Raclaw ist die frühzeitige Erkennung von Risikopatienten eine entscheidende klinische und wirtschaftliche Priorität, da über sieben Millionen Menschen in den USA an Alzheimer leiden. Die Partnerschaft soll die proaktive Erkennung von Krankheiten im Gesundheitssystem zugänglicher und skalierbarer machen und entspricht ALZAIs Vision, ein bedeutendes medizinisches Bedürfnis zu adressieren und an zukunftsweisenden Entwicklungen in Prävention und KI-gestützter Entscheidungsfindung teilzuhaben.