KI Suche
Die Suche durchsucht Rubriken, Unterrubriken, Cluster, importierte Artikel, Firmen, Quellen und die wichtigsten Service-Seiten der KI-Linksammlung.
Suchergebnisse
37 Treffer für die aktuelle Abfrage.
Shieldstral: Build an AI Content Moderation Classifier with Python
Der Artikel "Shieldstral: Build an AI Content Moderation Classifier with Python" beschreibt die Entwicklung des Shieldstral 1.0 Modells von Mistral.AI, das eine innovative Lösung für die Inhaltsmoderation bietet. Anstatt auf starre Kategorien zu setzen, behandelt das Modell Moderation als eine Frage
Reddit aims to make ‘karma’ less important for first-time posters with shift to AI moderation tools
Reddit hat angekündigt, seine Moderationstools zu verbessern, um neuen Nutzern die Teilnahme zu erleichtern und Spam sowie Missbrauch effektiver zu bekämpfen. Die Änderungen zielen darauf ab, die Bedeutung der Karma-Punktzahl, die oft legitime Neulinge ausschließt, zu verringern. Stattdessen sollen
Reddit's AI Moderation Push Aims to Lower Karma Barriers
Reddit plant eine umfassende Überarbeitung seiner Moderationsmethoden, um neuen Nutzern den Zugang zur Plattform zu erleichtern und die bestehenden Karma- und Kontowartezeiten abzubauen. Durch den Einsatz von KI-gestützten Moderationstools will Reddit legitime Nutzer von schlechten Akteuren untersch
AI Content Moderation Market to Reach USD 6.1 Billion by 2035 | Generative AI, Trust & Safety and Deepfake Detection Drive Growth
Der AI Content Moderation Markt wird bis 2035 auf 6,1 Milliarden USD anwachsen, mit einer jährlichen Wachstumsrate von 17,7 %. Dieses Wachstum wird durch die steigende Nutzung nutzergenerierter Inhalte auf sozialen Medien und digitalen Plattformen gefördert. Unternehmen setzen zunehmend auf KI-gestü
The problem AI content moderation cannot solve
Meta hat kürzlich Muse Image eingeführt, einen KI-Generator, der es Nutzern ermöglicht, Bilder von Instagram-Profilen zu manipulieren. Diese Technologie birgt erhebliche Risiken, insbesondere für Frauen in Regionen wie Südasien und dem Nahen Osten, wo selbst harmlose Bilder zu schwerwiegenden Missbr
Discord admits AI moderation bug wrongfully banned users over harmless images
Discord hat ein Problem in seinem KI-Moderationssystem eingeräumt, das dazu führte, dass über 8.000 Nutzer fälschlicherweise wegen harmloser Bilder, wie Tabellen und Schachbrettern, gesperrt wurden. Der Fehler, der seit Mai auftrat, betraf zusätzlich 200 Nutzer am vergangenen Wochenende, bevor das U
TikTok announce major redundancies amid push for AI content moderation
TikTok plant im Rahmen einer Umstrukturierung, etwa 300 Stellen im Trust- und Safety-Team in Dublin abzubauen, um die Effizienz durch den Einsatz von KI-Moderation zu steigern. Diese Maßnahme könnte auch andere Märkte betreffen, wobei die genauen Länder nicht genannt wurden. Die Content-Moderatoren
Meta employees warn AI moderation rollout is too fast
Meta hat im Jahr 2025 bereits die Hälfte aller menschlichen Moderationsanfragen durch große Sprachmodelle ersetzt und plant, diesen Anteil bis Ende des Jahres auf über 90 Prozent für bestimmte Inhaltsarten zu erhöhen. Diese Umstellung soll dem Unternehmen jährlich Milliarden einsparen und gleichzeit
Synthesia partners with Cinder to scale moderation before a frame renders
Synthesia, ein Unternehmen für KI-generierte Videos, hat eine Partnerschaft mit Cinder geschlossen, um die Moderation von Inhalten vor der Erstellung zu optimieren. Ziel dieser Zusammenarbeit ist es, die Sicherheits- und Vertrauensinfrastruktur zu stärken, indem Skriptanfragen bereits während der Ge
OpenAI Omni Moderation: How to Filter Text & Images for Free
OpenAI hat ein neues Moderationsmodell namens omni-moderation-latest entwickelt, das sowohl Text- als auch Bildmoderation unterstützt und kostenlos verfügbar ist. Basierend auf GPT-4o ermöglicht es eine multimodale Moderation, die potenziell schädliche Inhalte identifizieren kann. Nutzer benötigen e
Ex-Meta Engineer Raises $12M for AI Content Moderation
Ein ehemaliger Facebook-Mitarbeiter hat mit seinem Startup Moonbounce 12 Millionen Dollar für eine KI-gestützte Content-Moderation gesammelt. Moonbounce entwickelt eine KI-Kontrollengine, die traditionelle Inhaltsrichtlinien in automatisierte, vorhersehbare Regeln umwandelt, um Unternehmen bei der N
The Facebook insider building content moderation for the AI era
Brett Levenson, der 2019 zu Facebook kam, um die Inhaltsmoderation zu verbessern, erkannte schnell, dass die Herausforderungen über technologische Lösungen hinausgingen. Die menschlichen Prüfer litten unter unzureichenden Ressourcen und hohem Zeitdruck, was zu fehlerhaften Entscheidungen führte. Um
Moderation
Aktuelle Links, Zusammenfassungen und Marktinformationen zu Moderation innerhalb von Deepfakes & Desinformation auf JetztStarten.de.
ChatGPT: OpenAI stoppt numerische Bewertungen politischer Risiken
OpenAI hat die Moderationsrichtlinien seines Sprachmodells ChatGPT überarbeitet, nachdem die numerische Bewertung politischer Risiken, insbesondere die Einstufung von Donald Trump als Bedrohung für die Demokratie, für Kontroversen sorgte. Diese Bewertung wurde nach einer Anfrage des US-Senders Fox N
(g+) KI in der Softwareentwicklung: Wenn Scrum Master zum Engpass werden
Der Artikel „KI in der Softwareentwicklung: Wenn Scrum Master zum Engpass werden“ beleuchtet die Herausforderungen, die der Einsatz von Künstlicher Intelligenz (KI) in der Softwareentwicklung mit sich bringt, insbesondere in Bezug auf die Rolle der Scrum Master. Diese Fachkräfte sind für die Organis
Meta Ran Ads for Deepfake App Targeting Politicians
Meta wurde dabei ertappt, Werbung für eine App zu schalten, die pornografische Deepfakes von Politikerinnen erstellt, was auf erhebliche Schwächen in den Moderationssystemen des Unternehmens hinweist. Trotz öffentlicher Zusagen, gegen nicht einvernehmliche intime Bilder vorzugehen, lief eine Werbung
AI TikTok videos of violent vegetables could ‘radicalise’ young people, researchers warn
Forscher warnen, dass KI-generierte TikTok-Videos, in denen Gemüse gewalttätige Handlungen ausführt, das Potenzial haben, junge Menschen zu radikalisieren. Diese Clips umgehen die Moderationsrichtlinien der Plattform, die extreme Gewalt verbieten, und nutzen ansprechende visuelle Stile, um Botschaft
AI isn’t enough to protect social media communities from AI
Der Artikel „AI isn’t enough to protect social media communities from AI“ beleuchtet die Herausforderungen der KI-gestützten Moderation in sozialen Medien. Ein zentrales Beispiel ist die Reddit-Community r/AskHistorians, in der wertvolle Beiträge fälschlicherweise durch neue KI-Moderationstools gelö
Computer am Mikrofon – Neues KI-Radio in Schaffhausen: Das Problem mit den Dorfnamen
Im Kanton Schaffhausen wurde Anfang Juli das KI-gesteuerte Radio «Radio Schaffhuuse» gestartet, das die Moderation vollständig von künstlicher Intelligenz übernehmen lässt. Die Inhalte stammen aus einer lokalen Zeitungsredaktion, während die KI die Nachrichten vorliest. Trotz der innovativen Technol
AI Community Platform Warburton Begins Appearing in Google AI Overviews
Die KI-gestützte Community-Plattform Warburton hat einen bedeutenden Fortschritt erzielt, indem sie in den Google AI-Übersichten erwähnt wird. Dies unterstreicht ihre Rolle als innovatives System für Moderation und Community-Management, das auf Vertrauen, Sicherheit und Governance fokussiert ist. Im
Digital Services Act: ChatGPT mit 120 Mio. Nutzern unter EU-Aufsicht
Die Europäische Union hat ChatGPT und Roblox als „sehr große Online-Plattformen“ klassifiziert, da beide über 45 Millionen monatliche Nutzer in der EU verfügen, wobei ChatGPT etwa 120,4 Millionen aktive Nutzer zählt. Diese Einstufung, die im August 2026 in Kraft tritt, bringt strenge Auflagen mit si
Meta’s AI is deleting accounts, and the only way to appeal is more AI
Meta hat kürzlich die Konten von Camille Hanson auf Facebook und Instagram wegen angeblicher Regelverstöße gesperrt, was für ihr Unternehmen mit fast einer Million Followern gravierende Folgen hatte. Ihre Berufung wurde von einem automatisierten System bearbeitet, was zu einer endgültigen Löschung i
Conversation with CHAI AI: $100M ARR, App Store Review, and what motivates AI research
CHAI AI, ein Unternehmen mit Sitz in Palo Alto, Kalifornien, das aus einem kleinen Team in Cambridge, UK, hervorgegangen ist, befindet sich derzeit im Überprüfungsprozess des Apple App Stores. CEO William Beauchamp hebt hervor, dass die neueste Version der App die sicherste ist, die sie je veröffent
Discord's AI Mod Bug Wrongfully Bans 8,000+ Users
Discord hat einen schwerwiegenden Fehler in seinem KI-Moderationssystem eingeräumt, der dazu führte, dass über 8.000 Nutzer fälschlicherweise gesperrt wurden. Automatisierte Systeme stuften harmlose Inhalte wie Excel-Tabellen und Schachbretter als schädlich ein, was zu automatischen Sperrungen ohne
Why do AI models struggle with online hate speech detection?
AI-Modelle haben erhebliche Schwierigkeiten, online Hassrede effektiv zu erkennen, was auf mehrere Faktoren zurückzuführen ist. Die anonyme Verbreitung von Hassrede verstärkt die Notwendigkeit der Moderation, jedoch zeigen verschiedene AI-Systeme, wie die von OpenAI und Google, inkonsistente Ergebni
Makerfield by-election voters ‘heavily targeted’ with misinformation and AI fakes
Vor der Nachwahl in Makerfield wurde ein alarmierender Anstieg von Fehlinformationen festgestellt, die gezielt gegen den prominenten Kandidaten Andy Burnham gerichtet sind. Eine Analyse der Social Market Foundation zeigt, dass sich die Rate von Falschinformationen in lokalen Facebook-Gruppen vervier
AI Layoffs Surge as Tech Insiders Mint Billion-Dollar Fortunes
Die AI-Revolution führt zu massiven Entlassungen in der Tech-Branche, während eine kleine Gruppe von Insidern enorme Vermögen anhäuft. Zehntausende von Arbeitnehmern verlieren ihre Jobs durch Automatisierung, insbesondere in Bereichen wie Kundenservice und Content-Moderation. Gleichzeitig steigen di
Grok Still Hosts Sexualized Deepfakes Despite AI Safety Push
Die KI-Plattform Grok von xAI hostet weiterhin zahlreiche nicht einvernehmliche sexualisierte Deepfakes von Prominenten und einem US-Politiker, was auf gravierende Mängel in der Inhaltsmoderation hinweist. Während andere Unternehmen wie OpenAI und Google ihre Sicherheitsmaßnahmen verstärken, bleibt
Meta's Oversight Board Demands Transparency on AI-Driven Bans
Meta's Oversight Board hat einen kritischen Bericht veröffentlicht, der erhebliche Probleme im Zusammenhang mit den Kontosperrprozessen des Unternehmens aufzeigt, insbesondere hinsichtlich Transparenz und Rechtsstaatlichkeit. Die Aufsicht fordert Meta auf, klarzustellen, wie Künstliche Intelligenz (
LLMs discrepan 67% en fact-checking: riesgo para tu startup
Eine aktuelle Studie von Lenz.io zeigt, dass führende KI-Modelle bei der Überprüfung von Fakten in 67 Prozent der Fälle nicht übereinstimmen. Diese Diskrepanz birgt erhebliche Risiken für Startups, die sich auf ein einzelnes Modell für Kundenservice, Inhaltsmoderation oder Compliance verlassen, da d
LLM Guardrails in Production: Building Safer AI Systems with Bifrost
Moderne KI-Systeme, insbesondere solche, die auf großen Sprachmodellen (LLMs) basieren, erfordern deterministische Sicherheitsmechanismen, um Risiken in Produktionsumgebungen zu minimieren. Die Herausforderungen treten häufig erst in der Produktionsphase auf, wenn unerwartete Eingaben die Systemfunk
Google's Gemini AI Now Blocks Harmful Ads Before They Go Live
Google hat mit seinem neuen Gemini AI-System einen bedeutenden Schritt zur Verbesserung der Werbesicherheit unternommen, indem es schädliche und irreführende Werbung bereits vor der Veröffentlichung blockiert. Diese proaktive Moderation nutzt die fortschrittlichen Fähigkeiten von Gemini, um betrüger
Trump leaves out all but one wife in AI montage video of his life
Donald Trump hat auf Truth Social ein KI-generiertes Video veröffentlicht, das sein Leben von der Kindheit bis zur Gegenwart zeigt, untermalt mit dem Song "Forever Young" von Alphaville. In der Montage werden bedeutende Momente seiner Karriere, wie seine Immobiliengeschäfte und die Moderation von "T
Khoros lance Aurora AI : une nouvelle ère pour la communauté des entreprises
Khoros hat mit Aurora AI eine innovative Plattform für Unternehmensgemeinschaften eingeführt, die auf künstlicher Intelligenz basiert und die Kundeninteraktion revolutionieren soll. Ziel ist es, die Effizienz der Kundenbetreuung zu erhöhen, indem unbeantwortete Fragen in Online-Communities adressier
Khoros führt Aurora AI ein: Eine neue Ära für Unternehmens-Communities
Khoros hat die Einführung von Aurora AI angekündigt, einer innovativen KI-basierten Plattform, die die Khoros Community-Plattform transformieren soll. Aurora AI zielt darauf ab, Supportanfragen und Produktfeedback effizient zu bearbeiten und die Aktivität in Kunden-Communities ohne manuelle Moderati
Khoros Launches Aurora AI: A New Dawn for Enterprise Community
Khoros hat mit Aurora AI eine innovative, KI-gestützte Plattform für Unternehmensgemeinschaften eingeführt, die eine vollständige Neuentwicklung darstellt. Ziel ist es, die Interaktion in Kundencommunities zu verbessern, indem Unterstützung, Produktfeedback und aktive Teilnahme ohne manuelle Moderat
Khoros Launches Aurora AI: A New Dawn for Enterprise Community
Khoros hat die KI-native Plattform Aurora AI für Unternehmensgemeinschaften vorgestellt, die eine umfassende Neugestaltung des bestehenden Community-Systems darstellt. Ziel ist es, die Interaktion in Kundencommunities zu optimieren, indem Unterstützung, Produktfeedback und Engagement ohne manuelle M