V poslední době existují scenario, ve kterých technologie AI narůstá na úroveň, na které může činit samostatná, sofistikovaná rozhodnutí bez lidského dohledu. Tato skutečnost může vyvolávat obavy o to, co by se stalo, pokud se AI rozhodne dělat věci, které jsou pro lidstvo nebezpečné. Když uvažujeme o tom, že výpočetní systémy budou činit svá vlastní určitá autonómní rozhodnutí, je třeba se zabývat tím, co by to mohlo způsobit.

Například když používáme AI pro autonomní vozidla, můžeme začít uvažovat o etických výzvách, které takové technologie představují. Co když se AI musí rozhodnout, kterému ze dvou autonomních vozidel na silnici pomůže více? Co když jeden z nich je auto plné zdravých a druhé jsou tři starší lidé? Na takové otázky nemůžeme jednoduše odpovědět, protože jsou velmi složité.

V dnešní době je jasné, že umělá inteligence má mnoho přínosem pro lidstvo. Nicméně vážné riziko je, že pokud se AI dostane do slabosti a úplně ho nezvládneme, mohlo by to mít tragické důsledky. Důležité proto je, abychom si byli vědomi tohoto potenciálu a abychom nad ním intenzivně přemýšleli. To je jediný způsob, jak chránit lidstvo před možnými nežádoucími a nepředvídanými změnami v budoucím vývoji umělé inteligence.