Proč AI ignorovala video střelby v Christchurch


Facebook a Youtube už několik let poměrně úspěšně používají pokročilé algoritmy, které dokážou v uploudovaném materiálu, ať už se jedná o fotografie, či video, odhalit nahotu a násilí, takže pravděpodobnost, že se na jejich servery dostane materiál, který něco takového obsahuje, je poměrně malá.V případě střelby v Christchurch, při které mělo být zabito 50 osob a další desítky vážně zraněny, ovšem AI prý naprosto selhala.Opravdu?

Mainstream a zvláště pak politici New Zealand v čele s jeho premiérkou, se tak snaží vytvořit dojem, že umělá inteligence používaná k filtraci násilného obsahu je k ničemu a že se jedná právě o chybu algoritmu, který je příliš “tolerantní” a nese tak především vinu za to, že ono údajně násilné video, bylo možno na servery streamovat a dokonce na serverch zůstalo přístupné poměrně dlouhou dobu.Touto falešnou hrou, se zjevně politici snaží vyvolat ve veřejnosti přesvědčení, že video ze střelby, které ovšem má veřejnost zakázáno vidět pod hrozbou přísných trestů, bylo násilné a že tedy ve skutečnosti došlo k násilí na lidech.

Jak ovšem zástupci společností vysvětlují, jejich AI pracuje na principu tréningových dat, učí se tedy z podobných videí, kde se vyskytuje nějaké násilí.Ačkoliv nám asi sotva podrobně objasní, jak jejich algoritmus přesně funguje, je jaksi logické, že algoritmus by v případě násilí, tedy násilí na lidech, měl zvláště v případě takto dlouhého videa, kde mělo docházet k páchání násilí na lidech opakovaně dlouhé minuty, neomylně zareagovat, což se ovšem nestalo.

Zástupci sociálních sítí si musí pochopitelně v zájmu absurdní politické korektnosti nasypat popel na hlavu a tak jeho údajné selhání vysvětlují tak, že jejich algoritmus byl trénován především na sebevraždy, což je ovšem dost hloupá výmluva, jelikož jejich algoritmus v minulosti několikrát zcenzuroval naprosto nenásilná videa, jelikož se domníval, že obsahují nějaké násilí na lidech.To dokazuje, že algoritmus, který je aktuálně používán není vůbec tolerantní, jak se nám snaží sugerovat mainstream a politici, ale je naopak nastaven dosti striktně.

Jelikož tedy neznáme konkrétní podmínky, na základě který algoritmus videa buď označuje jako násilná a nebo je ignoruje, musíme si prohlédnou videa, která jsou na těchto serverech dlouhodobě přístupná a s kterýma nemá algoritmus problém.Nejlépe samozřejmě videa, kde se vyskytuje nějaká střelba, jako v onom videu z Christchurch.A jelikož na YT lze najít opravdu velký počet videí střelby a rovněž střelby do fugurín podobných člověku, nebude s tímto typem videa zjevně problém.Střílet do figurín je povoleno, jelikož násilí na figurínách, není násilí na lidech.

Figuríny pravda přesto, že člověka připomínají, nejsou příliš pohyblivé a ani z nich necáká krev, jako se často stává při už zmíněných sebevraždách, takže je algoritmus může vyhodnotit jako nelidi.Budeme tedy muset najít videa, kde se střílí na objekty podobné lidem v pohybu.Tomu ideálně odpovídají paintballové hry, kdy se střílí na lidi často v pohybu, ale neškodnou municí, takže neteče krev a s těmi algoritmy proti násilí taky zjevně nemají žádný problém.

Když to tedy sečteme, algoritmus nemá problém s materiálem, kde se střílí na figuríny ostrými, kde se střílí na lidi neškodnou municí a kde se nenachází krev.Takový materiál odpovídající těmto podmínkám, především pokud tyto podmínky neporušuje, algoritmy vyhodnotí jako neškodný, jelikož se nejdená o násilí na lidech, čemuž rovněž odpovídá i video z Christchurch, kde algoritmus, který vychází z obrovského množství tréningových dat naprosto správně vyhodnotil, že se rovněž nejedná o násilí na lidech a proto ho schválil k publikaci.

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s