AI algoritmy sociálních sítí: jak vybírají obsah a jak je ovlivnit

AI algoritmy sociálních sítí rozhodují o tom, co uvidíte, když otevřete aplikaci. Z obrovského množství příspěvků, videí a reklam vyberou malou část a seřadí ji tak, aby vás co nejvíc zaujala. Umělá inteligence zároveň pomáhá s moderováním, tedy s odhalováním spamu, podvodů nebo nenávistného obsahu. V tomto článku vysvětlíme obecně, jak tyto systémy fungují, proč ovlivňují naše vnímání světa a jak si můžete feed nastavit vědoměji. Nebudeme popisovat vnitřní fungování konkrétních platforem, ta se liší a průběžně mění.

Jak fungují doporučovací algoritmy

Doporučovací algoritmus je systém, který z mnoha možností vybírá ty, které jsou pro konkrétního člověka nejrelevantnější. Stejný princip znáte z e-shopů („zákazníci, kteří koupili tohle, koupili i…“) nebo z videoplatforem. Na sociálních sítích má ale zvlášť velký vliv, protože tam trávíme hodně času a obsah se mění každou minutu.

Zjednodušeně probíhá doporučování ve třech krocích:

1. Výběr kandidátů. Systém sesbírá obsah, který by mohl připadat v úvahu: příspěvky od lidí, které sledujete, populární obsah, témata podobná tomu, co vás dřív zaujalo.
2. Hodnocení. Model strojového učení odhadne, jak pravděpodobně na každý příspěvek zareagujete: zda se zastavíte, kliknete, dáte like, okomentujete ho nebo ho sdílíte.
3. Seřazení a úpravy. Příspěvky se seřadí podle odhadu a doplní se pravidla platformy, například rozmanitost témat, omezení opakování nebo vložení reklam.

Jaké signály algoritmy sledují

Typickými signály jsou doba sledování, lajky, komentáře, sdílení, uložení, ale i to, co přeskočíte. Důležité jsou také vztahy: s kým si píšete nebo čí profily často navštěvujete. Algoritmus se tak průběžně učí z každé interakce. Jak strojové učení funguje obecně, vysvětluje článek co je strojové učení.

Proč dva lidé vidí úplně jiný feed

Protože každý zanechává jiné signály, dostane i jinou nabídku. Dva kolegové, kteří sledují stejné účty, mohou vidět odlišné příspěvky v jiném pořadí. Feed se navíc mění podle denní doby, zařízení nebo toho, co jste dělali před pár minutami. Proto je ošidné usuzovat z vlastního feedu, co je „všude“ nebo co „všichni řeší“. Vidíte výběr, který byl sestaven pro vás.

Reklama a personalizace

Podobné principy se používají i při zobrazování reklam. Systém odhaduje, které reklamy vás pravděpodobně zaujmou, podle zájmů, polohy nebo chování na platformě. Část personalizace můžete omezit v nastavení soukromí a reklam. V EU navíc platí přísnější pravidla pro cílení reklamy, například na nezletilé nebo podle citlivých údajů.

Moderování obsahu AI a filtrování

Na velkých platformách vzniká každou sekundu tolik obsahu, že ho lidé nemohou zkontrolovat sami. Proto se používá kombinace automatických systémů a lidských moderátorů.

AI pomáhá hlavně s:

• filtrováním spamu a podvodů, například falešných účtů nebo podvodných odkazů,
• rozpoznáváním zakázaného obsahu, jako je násilí, nenávistné projevy nebo nelegální materiál,
• tříděním nahlášených příspěvků, aby se moderátoři dostali nejdřív k nejzávažnějším případům,
• označováním citlivého obsahu, který se pak zobrazí s upozorněním.

Kde moderování AI selhává

Automatické systémy mají potíže s kontextem. Ironii, satiru, místní slang nebo citaci nenávistného výroku za účelem kritiky mohou vyhodnotit špatně. Výsledkem jsou falešné poplachy, kdy zmizí neškodný příspěvek, i opačné chyby, kdy škodlivý obsah projde. Proto zůstávají důležití lidští moderátoři a možnost odvolání. U menších jazyků, jako je čeština, může být přesnost automatických systémů navíc nižší než u angličtiny.

Jak AI algoritmy sociálních sítí ovlivňují myšlení

Doporučovací systémy jsou obvykle optimalizované na zapojení: aby uživatel zůstal co nejdéle a reagoval co nejvíc. To samo o sobě není zlý úmysl, ale má to vedlejší účinky.

• Bublina podobných názorů. Když algoritmus nabízí hlavně obsah, který odpovídá vašim dosavadním zájmům a postojům, můžete mít zkreslenou představu o tom, co si myslí ostatní.
• Výraznější obsah má výhodu. Emotivní, překvapivé nebo pobuřující příspěvky často vyvolávají víc reakcí, a proto se mohou šířit rychleji.
• Rychlé dávky pozornosti. Krátká videa a nekonečné posouvání podporují rychlé přepínání pozornosti.

Jak přesně a jak silně tyto mechanismy působí na jednotlivce, je předmětem probíhajícího výzkumu a odborníci se v detailech liší. Širšímu tématu, jak technologie včetně AI asistentů mění naše přemýšlení, se věnuje článek vliv AI na myšlení.

Dezinformace a deepfaky

Algoritmy samy obsah nevytvářejí, ale mohou urychlit šíření nepravdivých informací, pokud vyvolávají silné reakce. S nástupem generativní AI navíc přibývá falešných fotek, videí a hlasových nahrávek. Jak je rozpoznat, popisuje článek jak poznat deepfake.

Regulace: co říká nařízení o digitálních službách

V EU platí nařízení o digitálních službách (Digital Services Act, DSA). Mimo jiné požaduje, aby velmi velké online platformy srozumitelně vysvětlily, podle jakých hlavních kritérií jejich doporučovací systémy vybírají obsah, a aby uživatelům nabídly alespoň jednu možnost doporučování, která není založena na profilování. Nařízení také upravuje postupy moderování, například právo dozvědět se, proč byl obsah odstraněn, a možnost se ohradit.

Pro uživatele to znamená, že stojí za to projít si nastavení aplikací. Širší pohled na to, jak se umělá inteligence reguluje v různých zemích, nabízí článek regulace umělé inteligence ve světě.

Jak si feed nastavit vědoměji

Algoritmy nemusíte jen pasivně přijímat. Několik jednoduchých kroků:

1. Vyzkoušejte nepersonalizovaný nebo chronologický feed, pokud ho platforma nabízí.
2. Používejte volby „nezajímá mě“ a „zobrazovat méně“. Algoritmus se z nich učí stejně jako z lajků.
3. Sledujte vědomě i jiné pohledy. Pomůže to rozšířit nabídku obsahu.
4. Zkontrolujte nastavení reklam a personalizace v sekci soukromí.
5. Nastavte si časové limity. Většina telefonů i aplikací je umožňuje.
6. Ověřujte si emotivní zprávy v jiném zdroji, než je sdílí dál.

AI algoritmy a firmy: co z toho plyne pro marketing

Pro firmy je pochopení algoritmů praktická dovednost. Obsah, který lidi skutečně zaujme a vyvolá smysluplnou reakci, má větší šanci na dosah než čistě reklamní sdělení. Pomoct může i AI při přípravě textů a vizuálů, vždy ale s kontrolou člověkem a v souladu s pravidly platformy. Nesnažte se algoritmus „ošálit“ umělými interakcemi, platformy proti tomu aktivně bojují.

Závěr

AI algoritmy sociálních sítí vybírají obsah podle našeho chování, pomáhají s moderováním a zásadně ovlivňují, co vidíme. Nejsou neutrální ani všemocné. Když jim rozumíte, můžete svůj feed nastavit vědoměji a obsah posuzovat kritičtěji.

Pokud chcete s AI pracovat v marketingu a na sociálních sítích prakticky, podívejte se na kurz AI v marketingu. Pro celé týmy připravujeme firemní školení AI a přehled užitečných nástrojů najdete v sekci AI nástroje.