Zo'n vijf jaar geleden merkte ik dat ik steeds minder in staat was met mensen om te gaan die andersgezind zijn. Het bespreken van hete hangijzers met landgenoten begon me moeilijker te vallen dan mijn gesprekken met verdachte extremisten uit andere landen. Ik voelde me steeds bitterder en gefrustreerder. En daarom verlegde ik mijn focus van bedreigingen voor de nationale veiligheid naar de vraag wat aan de basis lag van de steeds extremere polarisatie in mijn thuisland. Als voormalig CIA-officier en diplomaat die jarenlang extremisme hielp te bestrijden, vreesde ik dat dit onze democratie veel meer begon te bedreigen dan eender welke buitenlandse tegenstander. Dus begon ik onderzoek te doen en mij uit te spreken, waardoor ik werd aangenomen door Facebook en hier vandaag voor jullie sta om jullie te waarschuwen over hoe deze platforms velen van ons manipuleren en radicaliseren en om te bespreken hoe we het publieke debat kunnen terugwinnen. Ik werkte als dienstofficier in Kenia een paar jaar na de aanslagen van 11 september en leidde de campagnes genaamd Hearts and Minds aan de grens van Somalië. Ik bouwde een vertrouwensrelatie op met de gemeenschappen die het vatbaarst waren voor extremistische berichtgeving. Ik heb urenlang thee gedronken met uitgesproken anti-westerse geestelijken en ging zelfs in dialoog met enkele verdachte terroristen, en hoewel veel van deze contacten begonnen met wederzijdse achterdocht, herinner ik me niet dat dit ooit eindigde met geschreeuw of beledigingen, en soms werkten we zelfs samen als er sprake was van wederzijds belang. Onze krachtigste instrumenten waren om gewoon te luisteren, te leren en empathie op te bouwen. Dit is de essentie van Hearts and Minds, want wat ik steeds weer ondervond is dat de meeste mensen gehoord, gevalideerd en gerespecteerd willen worden. En ik geloof dat de meesten van ons dat willen. 
Dus wat ik vandaag online zie gebeuren is hartverscheurend en veel moeilijker aan te pakken. We worden gemanipuleerd door het huidige informatie-ecosysteem, waardoor velen van ons ons zover ingraven in absolutisme dat compromis een vies woord is geworden. Want momenteel profiteren social media als Facebook van de segmentatie van burgers door ons gepersonaliseerde inhoud te tonen die onze vooroordelen bevestigt en uitbuit. Hun doel is om een sterke emotie uit te lokken om onze aandacht vast te houden. Daardoor krijgen de meest opruiende en polariserende stemmen de bovenhand, tot het bijna onmogelijk wordt om nog raakvlakken te vinden. En ondanks de stijgende vraag naar een verandering van de platforms is het duidelijk dat ze in hun eentje niet genoeg zullen doen. Dus regeringen moeten de verantwoordelijkheid definiëren voor de reële schade die wordt veroorzaakt door deze bedrijfsmodellen en kosten opleggen voor de schadelijke gevolgen voor onze volksgezondheid, ons publieke debat en onze democratie. Helaas zal dit niet meer gebeuren voor de Amerikaanse presidentsverkiezingen dus blijf ik aan de alarmbel trekken, want zelfs als we ooit een sterke regelgeving krijgen, is de inzet van elk van ons nodig om dit op te lossen. 
Toen ik mijn focus verlegde van buitenlandse dreigingen naar de afbraak van ons eigen maatschappelijk debat, vroeg ik me af of we de campagnes  van Hearts and Minds konden hergebruiken om iets aan onze verdeeldheid te doen. Ons democratische experiment van meer dan 200 jaar werkt grotendeels omdat we in staat zijn openlijk en gepassioneerd onze ideeën te bespreken, op zoek naar de beste oplossing. Maar hoewel ik nog steeds diep geloof in de kracht van een respectvol debat, kan het gewoon niet concurreren met de polariserende effecten en de omvang van social media. De mensen die worden meegezogen in de verontwaardiging op social media kunnen vaak veel moeilijker afstand doen van hun ideologieën dan ooit het geval was bij de kwetsbare gemeenschappen waarmee ik werkte. 
Dus toen Facebook me in 2018 opbelde en me vroeg de leiding te nemen over haar activiteiten inzake de integriteit van politieke advertenties, vond ik dat ik ja moest zeggen. Ik had geen illusies dat ik het allemaal zou oplossen, maar als ik de mogelijkheid kreeg het schip in een betere richting te sturen moest ik het op zijn minst proberen. Ik werkte niet direct rond polarisatie, maar onderzocht wel welke kwesties de meeste sociale verdeeldheid zaaien en dus makkelijk kunnen worden uitgebuit om de verkiezingen te beïnvloeden, wat de tactiek van Rusland was in de aanloop naar 2016. Dus begon ik vragen te stellen. Ik wou de onderliggende systemische problemen begrijpen die dit konden laten gebeuren en uitzoeken hoe dit te verhelpen. 
Nu geloof ik nog steeds in de kracht van het internet om meer stemmen te laten horen, maar ondanks hun doel om een gemeenschap uit te bouwen, zijn de grote socialemediabedrijven in hun huidige vorm onverzoenbaar met het idee van een redelijk discours. Het is onmogelijk om luisteren te belonen, een civiel debat aan te moedigen en mensen te beschermen die oprecht vragen willen stellen in een sector waar meer betrokkenheid en meer gebruikers de twee belangrijkste maatstaven voor succes zijn. Er is geen stimulans om mensen te helpen vertragen, om genoeg frictie in te bouwen zodat mensen moeten stoppen, zich bewust worden van hun emotionele reactie en hun eigen aannames in vraag te stellen voor ze reageren. De ongelukkige realiteit is: online zijn leugens aanlokkelijker dan de waarheid, en schunnigheid overtroeft een feitelijke redenering in een wereld die gericht is op frictieloze viraliteit. Zolang algoritmes als doel hebben onze aandacht vast te houden, zullen ze ons blijven vergiftigen door in te spelen op onze laagste instincten en menselijke zwakheden. En ja, woede, wantrouwen, de cultuur van angst en haat: niets van dit alles is nieuw in Amerika. Maar de afgelopen jaren hebben social media dit allemaal verscherpt en, zoals ik het zie, de weegschaal dramatisch doen kantelen. En Facebook weet het. Een artikel in de Wall Street Journal bracht een interne Facebook-presentatie uit 2018 aan het licht die de algoritmes van het bedrijf als oorzaak aanwijst voor het stijgend aantal extremistische groeperingen op hun platform en de polarisering van hun gebruikers. Maar onze aandacht vasthouden is hoe ze geld verdienen. De moderne informatie-omgeving draait om de profilering van gebruikers om ons te segmenteren in steeds engere categorieën om dit proces van personalisering te perfectioneren. Zo worden we gebombardeerd met informatie die onze standpunten bevestigt, onze vooroordelen versterkt, en ons het gevoel geeft ergens bij te horen. Dezelfde tactieken worden gebruikt voor de rekrutering van terroristen waarbij men aast op kwetsbare jongeren, zij het op kleinere, lokalere schaal voor de opkomst van social media, met als uiteindelijk doel hun gedrag te beïnvloeden. 
Helaas heb ik van Facebook nooit de kans gekregen om reële impact te hebben. Op mijn tweede werkdag werden mijn titel en functieomschrijving al veranderd en werd ik geweerd uit comités die beslissingen konden nemen. Mijn grootste inspanningen, mijn plannen voor het bestrijden van desinformatie en misleiding van kiezers bij politieke advertenties werden afgewezen. En dus bleef ik amper zes maanden in dienst. Maar dit is mijn grootste les van mijn tijd in het bedrijf. Er zijn duizenden mensen bij Facebook die vol passie aan een product werken waarvan ze echt geloven dat de wereld er beter van wordt, maar zolang het bedrijf zich enkel bezighoudt met wat gepriegel in de marge van content policy en matiging, in plaats van in te zien hoe de hele machine is ontworpen en gemonetiseerd, zullen ze nooit echt werk maken van hoe het platform bijdraagt aan haat, verdeeldheid en radicalisering. En dat is het enige gesprek dat ik nooit heb weten voeren toen ik er werkte, omdat dat zou vereisen dat je principieel aanvaardt dat wat je hebt gecreëerd misschien toch niet zo goed is voor de maatschappij en akkoord gaat om het hele product- en winstmodel te veranderen. 
Wat kunnen we hieraan doen? Ik zeg niet dat social media als enige verantwoordelijk zijn voor de situatie waarin we ons bevinden. We hebben duidelijk diepgewortelde sociale problemen die we moeten oplossen. Maar Facebooks reactie dat het slechts een spiegel is van de maatschappij, is een gemakkelijke poging elke verantwoordelijkheid af te schuiven van de manier waarop hun platform schadelijke inhoud versterkt en sommige gebruikers in de richting van extreme standpunten duwt. 
En Facebook kan, als het dat wil, een deel van de problemen oplossen. Ze zouden kunnen stoppen met het promoten van samenzweringstheorieën, haatgroepen, makers van desinformatie en ja, in sommige gevallen zelfs onze president. Ze kunnen stoppen dezelfde personalisatietechnieken te gebruiken voor politieke retoriek die ze gebruiken om schoenen te verkopen. Ze kunnen hun algoritmes zo aanpassen dat ze op iets anders focussen dan betrokkenheid en drempels inbouwen zodat bepaalde inhoud niet viraal kan gaan voor hij wordt geëvalueerd. Ze kunnen dit allemaal doen zonder 'de scheidsrechter van de waarheid' te worden, zoals ze zelf beweren. 
Maar ze hebben duidelijk gemaakt dat ze niet ver genoeg willen gaan om het juiste te doen als ze niet worden gedwongen. En waarom zouden ze ook? De markten blijven hen belonen, en ze overtreden de wet niet. Want momenteel zijn er geen wetten in de VS die Facebook of andere social media dwingen het publieke debat te beschermen, evenals onze democratie en zelfs onze verkiezingen. De vraag welke regels gerespecteerd en afgedwongen moeten worden, laten we over aan de CEO's van commerciële internetbedrijven. Is dit wat we willen? Een wereld zonder waarheid, waar toxiciteit en tribalisme onze zoektocht naar consensus onmogelijk maken? Ik blijf geloven dat we nog steeds meer met elkaar gemeen hebben dan de huidige media en online-omgeving ons willen doen geloven. Ik geloof ook dat meer perspectieven zorgen voor een meer robuuste en inclusieve democratie. Maar dat is niet wat momenteel gebeurt. En ik wil benadrukken dat ik deze bedrijven niet kapot wil maken. Ik wil gewoon dat ze een zekere verantwoording moeten afleggen, net als de rest van de samenleving. Het is tijd dat onze regeringen wakker worden en hun werk doen om hun burgers te beschermen. En hoewel er geen magische wetgeving is die dit alles zal oplossen, geloof ik wel dat regeringen een balans kunnen en moeten vinden tussen de vrije meningsuiting beschermen en deze platforms ter verantwoording roepen voor hun effect op de samenleving. Ze zouden dat deels kunnen doen door aan te dringen op echte transparantie over hoe deze machines bepaalde inhoud promoten, over hoe informatie wordt gecureerd, versterkt en afgevuurd op doelgroepen. 
Ik wil dat deze bedrijven verantwoording moeten afleggen niet voor individuen die desinformatie verspreiden of extreme uitspraken doen, maar voor de manier waarop hun machines bepaalde info verspreiden, hoe hun algoritmes bepaalde mensen naar die info leiden, en hoe ze hun systemen gebruiken om bepaalde doelgroepen te viseren. Ik heb getracht om verandering te creëren van binnen Facebook, maar helaas. Dus gebruik ik sinds een paar jaar weer mijn stem om dit onder de aandacht te brengen en hopelijk meer mensen te inspireren om verantwoording te eisen. 
Mijn boodschap aan jullie is eenvoudig: oefen druk uit op de overheid om te verhinderen dat ons publieke debat wordt gestuurd door commerciële belangen. Help vrienden en familie inzien hoe ze online worden gemanipuleerd. Ga het gesprek aan met mensen die niet gelijkgezind zijn. Maak van deze kwestie een prioriteit. We moeten dit probleem als samenleving aanpakken. 
En mijn boodschap aan de leiders van mijn vroegere werkgever Facebook is: momenteel gebruiken mensen je systemen precies zoals die zijn ontworpen, om haat, verdeeldheid en wantrouwen te zaaien, en je laat het niet alleen toe, je houdt het zelf in stand. En ja, er zijn veel mooie verhalen van positieve dingen die wereldwijd op je platform gebeuren, maar dat maakt dit allemaal niet goed. En het wordt nog erger met de verkiezingen in zicht en zeker nu we de grootste crisis ooit riskeren als de resultaten onbetrouwbaar zijn en er geweld uitbreekt. Dus als je in 2021 opnieuw zegt "We weten dat we het beter moeten doen", wil ik dat je aan dit moment terugdenkt, want het gaat al lang niet meer om een paar buitenbeentjes. Burgerrechtenactivisten, academici, journalisten, adverteerders, je eigen personeel, ze schreeuwen allemaal van de daken dat je beleid en bedrijfspraktijken schadelijk zijn voor mens en democratie. Jij bent verantwoordelijk voor je beslissingen, maar kom achteraf niet zeggen dat je dit niet had zien aankomen. Bedankt. 
