Tietovuoto Social Design Agency (SDA) -trollitehtaasta 18.10.2024 Harto Pönkä Innowise

Mikä SDA-trollitehdas? 2 ▪ SDA = Social Design Agency, yksityinen yritys. ▪ Tietovuoto käsitti n. 300 SDA:n sisäistä asiakirjaa. ▪ Yli 100 työntekijää: sisällöntuottajia, pilapiirtäjiä, bottifarmivastaava, ideologi… ▪ Tietovuodon mukaan Venäjän presidentinhallinnon työntekijät antoivat suoraan käskyjä SDA:lle. ▪ SDA on tuottanut valtavia määriä julkaisuja ja kommentteja suosittuihin somepalveluihin kuten Facebookiin, X:ään, TikTokiin ja Telegramiin. ▪ Muita vastaavia trollitehdasyrityksiä Yhdysvaltain oikeusministeriön mukaan: Structura National Technology ja ANO Dialog. ▪ Trollitehdas-nimityksellä kutsuttiin myös v. 2013-2023 Pietarissa toiminutta Internet Research Agencya (IRA). Se keskittyi toiminnassaan vaikuttamaan mm. vuoden 2016 Yhdysvaltojen presidentinvaaleihin ja Britannian brexit-äänestykseen. Lähde: Yle, 23.9.2024, https://yle.fi/a/74-20112682, Wikipedia: https://fi.wikipedia.org/wiki/Internet_Research_Agency

SDA-trollitehtaan toimintatapoja ja kohteita 3 ▪ SDA on tuottanut systemaattisesti valtavia määriä julkaisuja ja kommentteja somepalveluihin. ▪ Lisäksi trollitehdas tuotti valeuutissivustoja, jotka pyrkivät näyttämään aidoilta esikuviltaan. ▪ Euroopassa SDA on keskittynyt EU:n suurimpiin jäsenmaihin eli Saksaan, Ranskaan, Italiaan, Espanjaan ja Puolaan. Esimerkiksi Suomesta tai Virosta ei ollut materiaalia. ▪ Eurovaaleissa SDA pyrki nostamaan varsinkin laitaoikeistopuolueiden kuten Saksan AfD- puolueen ja Ranskan Kansallisen liittouman kannatusta. ▪ Tällä hetkellä SDA pyrkii mm. heikentämään Ukrainan tukea länsimaissa ja Israelissa sekä vaikuttamaan Yhdysvaltojen marraskuun presidentinvaaleihin. Lähde: Yle, 23.9.2024, https://yle.fi/a/74-20112682

SDA kehui mainosvideolla tehokkuuttaan 4 ▪ Vuoden 2024 tammi-huhtikussa SDA kertoi tuottaneensa: 33,9 miljoonaa kommenttia 4 641 videota sekä 2 615 kuvaa ja meemiä ▪ Tietovuotomateriaaliin sisältyi mainosvideo, jolla SDA esitteli saavutuksiaan asiakkaalleen eli mitä todennäköisimmin Venäjän presidentinhallinnolle. ▪ Mainosvideon mukaan SDA:lla on tietokanta 1000:sta somevaikuttajasta, jotka levittävät sen viestejä. ▪ SDA piti laitaoikeiston menestystä eurovaaleissa omana saavutuksenaan. Lähde: Yle, 23.9.2024, https://yle.fi/a/74-20112682

Trollitehtaiden työkaluja ja toimintatapoja 5 ▪ Uutisten ja sosiaalisen median seurantatyökalut ▪ Disinformaatioprojektien seuranta-, hallinta- ja analyysityökalut, ml. sosiologiset analyysit ▪ Valesisällöntuotanto ▪ Artikkelit (pitkät tekstit) ▪ Somepostaukset (lyhyet tekstit) ▪ Kuva- ja videomeemit ▪ Sarjakuvat ▪ Videoklipit ▪ ”Lisätty todellisuus”, esim. ruutukaappaukset, tekoälyn avulla generoidut valokuvat, ääninauhat ja deepfake- videot ▪ Valesisältöjen toimitusjärjestelmä ▪ Kommentointikone (sis. bottiverkostot) ▪ Alueelliset vaikuttajaryhmät ▪ Feikkiuutissivustot ▪ Kohdennettu mainonta ▪ Telegram-kanavien verkosto ▪ Alueellisesti kohdennetut kommentit Lähde: Yhdysvaltojen oikeusministeriö, 4.9.2024, osa esitettyä todistusaineistoa, https://www.justice.gov/opa/media/1366226/dl

Tekoälyn avulla generoitu disinformaatio yleistyy 6 ▪ ChatGPT:stä ja kuvageneraattoreista on tullut nopeasti osa trollitehtaiden välineistöä. ▪ Tekoälyn avulla generoidaan mm. uutisia, somepostauksia, valokuvia, videoita ja tekaistuja puhelinkeskusteluja. ▪ Feikkisisältöjä levitetään sometilien julkaisujen kautta sekä kohdennettuna mainontana erityisesti Facebookissa ja TikTokissa. ▪ Oheiset Saksan politiikkaan liittyvät esimerkit ovat Naton strategisen viestinnän keskuksen StratComin tuoreesta selvityksestä. Lähde: Nato Stratcome COE, 20.8.2024, https://stratcomcoe.org/publications/ai-in-precision-persuasion-unveiling-tactics-and-risks-on-social-media/309 Fake

Yhdysvallat sulki 32 trollitehtaiden ylläpitämää feikkiuutissivustoa 7 ▪ Kyse on ns. doppelganger- huijauskampanjasta eli siitä, että venäläiset trollitehtaat tekivät suosituille uutissivustoille ”kaksoisolentoja”, joiden kautta ne pyrkivät levittämään valetietoa. ▪ Feikkiuutissivustot esiintyivät esimerkiksi Washington Postin, Fox Newsin ja Forwardin nimillä. Myös useisiin muihin medioihin viittaavia verkko-osoitteita oli varattu. ▪ Suljettuja sivustoja olivat mm. Washingtonpost.ltd, Washingtonpost.pm, Fox-news.top, Fox-news.in, Foxnews.cx ja Forward.pw. ▪ Esimerkiksi Ukrainassa toimii lukuisia trollitehtaiden ylläpitämiä Telegram-kanavia, joiden kautta levitetään feikkiuutisten linkkejä. Näin disinformaatiolla pyritään korvaamaan journalistiset uutismediat. Lähde: Yhdysvaltojen oikeusministeriö, 4.9.2024, https://www.justice.gov/opa/pr/justice-department-disrupts-covert-russian-government-sponsored-foreign-malign-influence Kuva: osa esitettyä todistusaineistoa, https://www.justice.gov/opa/media/1366226/dl Fake

Trollitehtaat hyödyntävät kehittynyttä analytiikkaa ja ennustemalleja 8 ▪ Venäläisten trollitehtaiden valeuutiset tarttuvat ajankohtaisiin keskustelunaiheisiin ja uutisiin. ▪ Yhdysvaltain oikeusministeriön mukaan trollitehtaat käyttävät kehittynyttä some- ja mediaseurantaa, data-analyysiä ja sosiologista tutkimusta toimintansa suunnittelussa, ohjauksessa ja tulosten seurannassa. ▪ Analyysissä tunnistetaan sosiaalisen median käyttäytymismalleja sekä lasketaan tavoiteltujen kohderyhmien herkkyystaso eri disinformaatio- narratiiveille. Lähde: Yhdysvaltojen oikeusministeriö, 4.9.2024, https://www.justice.gov/opa/pr/justice-department-disrupts-covert-russian-government-sponsored-foreign-malign-influence Kuvat: osia esitetystä todistusaineistosta, https://www.justice.gov/opa/media/1366261/dl

9 Kysymyksiä tai kommentteja? Yhteystiedot Harto Pönkä 0400500315 @hponka [email protected] https://www.innowise.fi/ Kiitos!