KI Suche
Die Suche durchsucht Rubriken, Unterrubriken, Cluster, importierte Artikel, Firmen, Quellen und die wichtigsten Service-Seiten der KI-Linksammlung.
Suchergebnisse
37 Treffer für die aktuelle Abfrage.
The problem AI content moderation cannot solve
Meta hat kürzlich Muse Image eingeführt, einen KI-Generator, der es Nutzern ermöglicht, Bilder von Instagram-Profilen zu manipulieren. Diese Technologie birgt erhebliche Risiken, insbesondere für Frauen in Regionen wie Südasien und dem Nahen Osten, wo selbst harmlose Bilder zu schwerwiegenden Missbr
Discord admits AI moderation bug wrongfully banned users over harmless images
Discord hat ein Problem in seinem KI-Moderationssystem eingeräumt, das dazu führte, dass über 8.000 Nutzer fälschlicherweise wegen harmloser Bilder, wie Tabellen und Schachbrettern, gesperrt wurden. Der Fehler, der seit Mai auftrat, betraf zusätzlich 200 Nutzer am vergangenen Wochenende, bevor das U
TikTok announce major redundancies amid push for AI content moderation
TikTok plant im Rahmen einer Umstrukturierung, etwa 300 Stellen im Trust- und Safety-Team in Dublin abzubauen, um die Effizienz durch den Einsatz von KI-Moderation zu steigern. Diese Maßnahme könnte auch andere Märkte betreffen, wobei die genauen Länder nicht genannt wurden. Die Content-Moderatoren
Meta employees warn AI moderation rollout is too fast
Meta hat im Jahr 2025 bereits die Hälfte aller menschlichen Moderationsanfragen durch große Sprachmodelle ersetzt und plant, diesen Anteil bis Ende des Jahres auf über 90 Prozent für bestimmte Inhaltsarten zu erhöhen. Diese Umstellung soll dem Unternehmen jährlich Milliarden einsparen und gleichzeit
Synthesia partners with Cinder to scale moderation before a frame renders
Synthesia, ein Unternehmen für KI-generierte Videos, hat eine Partnerschaft mit Cinder geschlossen, um die Moderation von Inhalten vor der Erstellung zu optimieren. Ziel dieser Zusammenarbeit ist es, die Sicherheits- und Vertrauensinfrastruktur zu stärken, indem Skriptanfragen bereits während der Ge
OpenAI Omni Moderation: How to Filter Text & Images for Free
OpenAI hat ein neues Moderationsmodell namens omni-moderation-latest entwickelt, das sowohl Text- als auch Bildmoderation unterstützt und kostenlos verfügbar ist. Basierend auf GPT-4o ermöglicht es eine multimodale Moderation, die potenziell schädliche Inhalte identifizieren kann. Nutzer benötigen e
AI content moderation takes a lesson from economics
Der Artikel "AI content moderation takes a lesson from economics" beleuchtet, wie ökonomische Prinzipien die Entwicklung und Verbesserung von KI-gestützten Inhaltenmoderationssystemen beeinflussen können. Er argumentiert, dass die Herausforderungen der Inhaltsmoderation, wie die Unterscheidung zwisc
Ex-Meta Engineer Raises $12M for AI Content Moderation
Ein ehemaliger Facebook-Mitarbeiter hat mit seinem Startup Moonbounce 12 Millionen Dollar für eine KI-gestützte Content-Moderation gesammelt. Moonbounce entwickelt eine KI-Kontrollengine, die traditionelle Inhaltsrichtlinien in automatisierte, vorhersehbare Regeln umwandelt, um Unternehmen bei der N
The Facebook insider building content moderation for the AI era
Brett Levenson, der 2019 zu Facebook kam, um die Inhaltsmoderation zu verbessern, erkannte schnell, dass die Herausforderungen über technologische Lösungen hinausgingen. Die menschlichen Prüfer litten unter unzureichenden Ressourcen und hohem Zeitdruck, was zu fehlerhaften Entscheidungen führte. Um
Meta’s latest AI improves its terrible content moderation, just a little
Meta hat ein neues KI-Tool zur Verbesserung seiner Content-Moderation eingeführt, das in Tests bessere Ergebnisse als menschliche Moderatoren erzielt hat. Dieses System kann Aufgaben wie Passwortzurücksetzungen und das Melden problematischer Inhalte übernehmen. In ersten Experimenten erkannte die KI
Tumblr's AI Moderation Goes Rogue, Mass-Bans Users
Am Mittwoch erlebte Tumblr eine Krise, als sein automatisiertes Moderationssystem zahlreiche Benutzerkonten ohne klare Erklärung sperrte. Innerhalb weniger Stunden wurden viele Nutzer, insbesondere trans Frauen, betroffen, was Bedenken hinsichtlich algorithmischer Voreingenommenheit aufwarf. Die bet
Moderation
Aktuelle Links, Zusammenfassungen und Marktinformationen zu Moderation innerhalb von Deepfakes & Desinformation auf JetztStarten.de.
Meta’s AI is deleting accounts, and the only way to appeal is more AI
Meta hat kürzlich die Konten von Camille Hanson auf Facebook und Instagram wegen angeblicher Regelverstöße gesperrt, was für ihr Unternehmen mit fast einer Million Followern gravierende Folgen hatte. Ihre Berufung wurde von einem automatisierten System bearbeitet, was zu einer endgültigen Löschung i
Conversation with CHAI AI: $100M ARR, App Store Review, and what motivates AI research
CHAI AI, ein Unternehmen mit Sitz in Palo Alto, Kalifornien, das aus einem kleinen Team in Cambridge, UK, hervorgegangen ist, befindet sich derzeit im Überprüfungsprozess des Apple App Stores. CEO William Beauchamp hebt hervor, dass die neueste Version der App die sicherste ist, die sie je veröffent
Discord's AI Mod Bug Wrongfully Bans 8,000+ Users
Discord hat einen schwerwiegenden Fehler in seinem KI-Moderationssystem eingeräumt, der dazu führte, dass über 8.000 Nutzer fälschlicherweise gesperrt wurden. Automatisierte Systeme stuften harmlose Inhalte wie Excel-Tabellen und Schachbretter als schädlich ein, was zu automatischen Sperrungen ohne
Why do AI models struggle with online hate speech detection?
AI-Modelle haben erhebliche Schwierigkeiten, online Hassrede effektiv zu erkennen, was auf mehrere Faktoren zurückzuführen ist. Die anonyme Verbreitung von Hassrede verstärkt die Notwendigkeit der Moderation, jedoch zeigen verschiedene AI-Systeme, wie die von OpenAI und Google, inkonsistente Ergebni
Makerfield by-election voters ‘heavily targeted’ with misinformation and AI fakes
Vor der Nachwahl in Makerfield wurde ein alarmierender Anstieg von Fehlinformationen festgestellt, die gezielt gegen den prominenten Kandidaten Andy Burnham gerichtet sind. Eine Analyse der Social Market Foundation zeigt, dass sich die Rate von Falschinformationen in lokalen Facebook-Gruppen vervier
AI Layoffs Surge as Tech Insiders Mint Billion-Dollar Fortunes
Die AI-Revolution führt zu massiven Entlassungen in der Tech-Branche, während eine kleine Gruppe von Insidern enorme Vermögen anhäuft. Zehntausende von Arbeitnehmern verlieren ihre Jobs durch Automatisierung, insbesondere in Bereichen wie Kundenservice und Content-Moderation. Gleichzeitig steigen di
Grok Still Hosts Sexualized Deepfakes Despite AI Safety Push
Die KI-Plattform Grok von xAI hostet weiterhin zahlreiche nicht einvernehmliche sexualisierte Deepfakes von Prominenten und einem US-Politiker, was auf gravierende Mängel in der Inhaltsmoderation hinweist. Während andere Unternehmen wie OpenAI und Google ihre Sicherheitsmaßnahmen verstärken, bleibt
Meta's Oversight Board Demands Transparency on AI-Driven Bans
Meta's Oversight Board hat einen kritischen Bericht veröffentlicht, der erhebliche Probleme im Zusammenhang mit den Kontosperrprozessen des Unternehmens aufzeigt, insbesondere hinsichtlich Transparenz und Rechtsstaatlichkeit. Die Aufsicht fordert Meta auf, klarzustellen, wie Künstliche Intelligenz (
LLMs discrepan 67% en fact-checking: riesgo para tu startup
Eine aktuelle Studie von Lenz.io zeigt, dass führende KI-Modelle bei der Überprüfung von Fakten in 67 Prozent der Fälle nicht übereinstimmen. Diese Diskrepanz birgt erhebliche Risiken für Startups, die sich auf ein einzelnes Modell für Kundenservice, Inhaltsmoderation oder Compliance verlassen, da d
LLM Guardrails in Production: Building Safer AI Systems with Bifrost
Moderne KI-Systeme, insbesondere solche, die auf großen Sprachmodellen (LLMs) basieren, erfordern deterministische Sicherheitsmechanismen, um Risiken in Produktionsumgebungen zu minimieren. Die Herausforderungen treten häufig erst in der Produktionsphase auf, wenn unerwartete Eingaben die Systemfunk
Leading Firms Fueling Innovation and Growth in the AI in Social Media Market
Die Integration von künstlicher Intelligenz (KI) in soziale Medien transformiert die Interaktion zwischen Nutzern und Unternehmen und führt zu einem prognostizierten Marktwachstum auf 10,15 Milliarden Dollar bis 2030. Treiber dieses Wachstums sind die steigende Nutzung generativer KI-Tools, ein Foku
Vom Experiment zum Alltag: Wie Radiosender KI einsetzen
In deutschen Radiosendern hat Künstliche Intelligenz (KI) den Experimentiermodus hinter sich gelassen und wird nun in verschiedenen Bereichen aktiv eingesetzt. Dazu zählen die Erstellung von Verkehrsmeldungen, Moderationstexten, Vermarktung und Audioproduktion. Durch die Integration von KI-Technolog
‘It’s Undignified’: Hundreds of Workers Training Meta’s AI Could Be Laid Off
Hunderte von Mitarbeitern in Irland, die für die Verfeinerung von Metas KI-Modellen zuständig sind, stehen vor möglichen Entlassungen, da das Unternehmen eine neue Runde von Stellenabbau plant. Diese Angestellten arbeiten für Covalen, das Dienstleistungen zur Inhaltsmoderation für Meta erbringt. In
Google's Gemini AI Now Blocks Harmful Ads Before They Go Live
Google hat mit seinem neuen Gemini AI-System einen bedeutenden Schritt zur Verbesserung der Werbesicherheit unternommen, indem es schädliche und irreführende Werbung bereits vor der Veröffentlichung blockiert. Diese proaktive Moderation nutzt die fortschrittlichen Fähigkeiten von Gemini, um betrüger
Trump leaves out all but one wife in AI montage video of his life
Donald Trump hat auf Truth Social ein KI-generiertes Video veröffentlicht, das sein Leben von der Kindheit bis zur Gegenwart zeigt, untermalt mit dem Song "Forever Young" von Alphaville. In der Montage werden bedeutende Momente seiner Karriere, wie seine Immobiliengeschäfte und die Moderation von "T
Khoros lance Aurora AI : une nouvelle ère pour la communauté des entreprises
Khoros hat mit Aurora AI eine innovative Plattform für Unternehmensgemeinschaften eingeführt, die auf künstlicher Intelligenz basiert und die Kundeninteraktion revolutionieren soll. Ziel ist es, die Effizienz der Kundenbetreuung zu erhöhen, indem unbeantwortete Fragen in Online-Communities adressier
Khoros führt Aurora AI ein: Eine neue Ära für Unternehmens-Communities
Khoros hat die Einführung von Aurora AI angekündigt, einer innovativen KI-basierten Plattform, die die Khoros Community-Plattform transformieren soll. Aurora AI zielt darauf ab, Supportanfragen und Produktfeedback effizient zu bearbeiten und die Aktivität in Kunden-Communities ohne manuelle Moderati
Khoros Launches Aurora AI: A New Dawn for Enterprise Community
Khoros hat mit Aurora AI eine innovative, KI-gestützte Plattform für Unternehmensgemeinschaften eingeführt, die eine vollständige Neuentwicklung darstellt. Ziel ist es, die Interaktion in Kundencommunities zu verbessern, indem Unterstützung, Produktfeedback und aktive Teilnahme ohne manuelle Moderat
Khoros Launches Aurora AI: A New Dawn for Enterprise Community
Khoros hat die KI-native Plattform Aurora AI für Unternehmensgemeinschaften vorgestellt, die eine umfassende Neugestaltung des bestehenden Community-Systems darstellt. Ziel ist es, die Interaktion in Kundencommunities zu optimieren, indem Unterstützung, Produktfeedback und Engagement ohne manuelle M
Digg Shuts Down After 2 Months as AI Bot Spam Overwhelms Platform
Digg hat nach nur zwei Monaten Betrieb seine Plattform geschlossen, da sie von einer überwältigenden Menge an AI-generiertem Bot-Spam überflutet wurde. Die Gründungspartner Kevin Rose und Alexis Ohanian hatten die Rückkehr von Digg als Lösung für frühere Moderationsprobleme angepriesen, doch die Rea
X's Grok AI Spreads Fake Iran War Content, Fails Verification
Der AI-Chatbot Grok von X verbreitet Fehlinformationen über den Iran-Konflikt, indem er sowohl authentische Videos nicht verifizieren kann als auch eigene gefälschte Kriegsbilder erstellt. Diese Probleme offenbaren erhebliche Mängel in der Inhaltsmoderation von X während einer geopolitischen Krise u
Roblox Deploys AI to Auto-Censor Player Chats in Real Time
Roblox hat eine KI-gestützte Inhaltsmoderation eingeführt, die toxische Chat-Nachrichten in Echtzeit umschreibt, bevor sie andere Spieler erreichen. Diese Funktion geht über einfache Wortfilter hinaus, indem sie beleidigende Sprache in sanierte Versionen umwandelt, ohne die ursprüngliche Absicht zu
EU launches probe into xAI over sexualized images
Die irische Datenschutzbehörde hat eine umfassende Untersuchung gegen Elon Musks Plattform X eingeleitet, die sich auf die Erstellung und Veröffentlichung nicht einvernehmlicher, sexualisierter Bilder durch den Grok-Chatbot konzentriert. Diese Maßnahme folgt auf Berichte über tausende sexualisierte
Stumble Launches as a New Emotional Support Platform, Appoints Xavier Lampkin as Chief Technology Officer
Stumble ist eine neu gestartete Plattform für emotionale Unterstützung, die Menschen bei der Bewältigung von Einsamkeit, Herzschmerz und Lebensübergängen helfen soll. Co-Gründerin Sara McArthur Pierce erklärt, dass Stumble aus den stillen Momenten entstanden ist, in denen Menschen oft nicht wissen,
Gizmo hits 600K installs with AI-powered mini-app feed
Die App Gizmo des New Yorker Startups Atma Sciences hat in weniger als sechs Monaten 600.000 Installationen erreicht. Sie ermöglicht Nutzern, interaktive Mini-Apps durch KI-gestützte Textaufforderungen zu erstellen, was die Nutzung sozialer Feeds revolutioniert. Anstelle von passivem Scrollen bietet