Discord koopt een AI-bedrijf om een ​​groot probleem te bestrijden: intimidatie

Discord-logo, maar boze wenkbrauwen.

foto: Discord / Kotaku

Het was nog niet zo lang geleden deze onenigheid Met enkele van de meest kwaadaardige verzamelingen van internet, waaronder blanke supremacistische samenlevingen zoals The Daily Stormer. Sinds de Charlottesville maart 2017Het chatplatform heeft echter langzaam maar zeker de rommel opgeruimd. Maar naarmate Discord is gegroeid, neemt ook de dreiging van intimidatie toe. Als onderdeel van zijn voortdurende inspanningen om ervoor te zorgen dat geen enkel vergrijp ongestraft blijft, heeft het Sentropy overgenomen, een op AI gebaseerd anti-intimidatiebedrijf.

Sentropy is een startup die meteen furore maakte verscheen vorig jaar Vanwege financiering van grote namen als Reddit-oprichter Alexis Ohanian en CEO’s van Riot Games, Nextdoor, OpenAI, Twitch en Twitter. Het introduceerde AI-aangedreven mod-tools voor de platforms, evenals gratis, consumentgerichte tools zoals de inmiddels verlopen Sentropy Protect, die bedoeld waren om gebruikers te helpen aanstootgevende inhoud op sites zoals Twitter via het dashboard te detecteren en te verbannen. Nu is het onderdeel van Discord.

Sentropy CEO John Redgrave aangekondigd in een release een Gemiddelde Mail.

Redgrave schrijft: “Discord vertegenwoordigt de volgende generatie sociale ondernemingen – een waarin gebruikers niet het product zijn om te verkopen, maar eerder de motor van communicatie, creativiteit en groei.” “In dit model zijn gebruikersprivacy en gebruikersveiligheid de belangrijkste kenmerken van het product, geen bijzaak. Het succes van dit model hangt af van het opbouwen van vertrouwen en veiligheid van de volgende generatie in elk product. We nemen deze verantwoordelijkheid niet licht op en zijn nederig om werk op Discord-niveau en met Discord-bronnen. Om de diepte van onze invloed te vergroten. “

Redgrave bleef opmerken dat een voordeel van het werken met Discord is dat hij en zijn team nog steeds resultaten kunnen delen met anderen in de ruimte voor inhoudsmoderatie – niet alleen met collega-Discord-medewerkers. “[Trust and safety] “Technologie en processen mogen niet worden gebruikt als concurrentievoordeel”, schreef Redgrave. “We verdienen allemaal digitale en fysieke veiligheid, en makelaars verdienen betere tools om hen te helpen een van de zwaarste klussen op internet effectiever en met minder nadelige gevolgen uit te voeren.”

Terwijl platforms als Twitter, Facebook, YouTube en Twitch dagelijks worstelen met Vragen over hoe u beter kunt omgaan met hordes cyberintimidatie, onenigheid bevindt zich in een bijzonder moeilijk gebied. Het platform promoot nu 150 miljoen maandelijkse actieve gebruikers verspreid over miljoenen kanalen of afzonderlijke servers in de taal van Discord. In 2017, voordat het begon met het leegpompen van verschillende putten, had het Slechts 12.000 servers. Vorig jaar alleen al heeft het bedrijf Verwijder honderdduizenden accounts Voor uitbuitende inhoud, intimidatie en extremisme – velen zijn ontdekt door gebruikersrapporten. naar mij Neem CrunchVanaf mei 2020 bestond het Discord Trust and Safety-team uit 15% van het personeelsbestand.

Maar zelfs nu dit team zijn best doet om het slechtste van het internet buiten de deur te houden, en de lange traditie van enkele Discord-servers met vrijwillige moderators, is de schaal van Discord nog steeds onthutsend. Het is niet ongebruikelijk dat intimidatiegroepen Discord gebruiken als een primair middel om aanvallen op gebruikers op sites zoals Twitter, YouTube en Twitch te coördineren. vorig jaar, Oefening “Zoombom”Ga je gang – de mensen die op Zoom-oproepen verschenen met pornografie, nazi-foto’s en dat soort dingen – dankzij Discord-servers die zijn bedoeld om dat gemakkelijk te maken. Veel servers verbergen hun echte dingen met valse regels terwijl ze raids organiseren op Zoom-vergaderingen die worden gehouden door NA en steungroepen voor risicogroepen zoals LGBTQ en transgender-tieners. Discord heeft deze servers geblokkeerd, maar niet voordat de schade al is opgetreden.

Het is alleen maar logisch dat Discord zijn inspanningen op dit gebied zou willen opvoeren, aangezien interactieve methoden tot nu toe alleen op de platforms komen. Maar kunstmatige intelligentie is nog volop in ontwikkeling. Testen wordt niet altijd getest als het gaat om het scannen van context of het uitzoeken wanneer, laten we zeggen, een normaal ogende regelpagina eigenlijk een rode haring is. En dus, net als de andere inspanningen van Discord, is dit een groter stuk van de onvoltooide puzzel – geen wondermiddel.

READ  8 van de beste OxygenOS-tips en -trucs voor professionele OnePlus-gebruikers
Written By
More from Lesley Curry

Vergrendel je telefoon tegen indringers en hackers

is van jou Telefoon Vol geheimen, of je er nu zo over...
Read More

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *