Umělá inteligence napříč obory
22 ǀ POSITIV 2/2025
BUSINESS FÓRUM
Vliv AI na lidské myšlení – co je podle Vás
největší riziko?
Největší riziko ze strany AI je, že vytvoříme obecnou
umělou inteligenci. Systém schopný dosahovat libovol-
ných cílů lépe než člověk, který ale nebude sdílet naše
cíle a hodnoty. To by mohlo ohrozit celou civilizaci. Dnes
se věnuje obrovská pozornost schopnostem AI, ale mno-
hem méně se pracuje na sladění jejích hodnot s těmi lid-
skými – AI alignment – a to je problém.
Lze si v online prostředí – zejména na sociálních
sítích – vůbec udržet vlastní mentální integritu?
AI algoritmy jsou navrženy tak, aby z nás vytěžily maxi-
mum času a pozornosti, což je následně monetizováno
inzerentům. Tento souboj mezi člověkem a algoritmy je
z podstaty nerovný a pro člověka předem prohraný.
Sociální sítě jsou jak produktově, tak designově, ale
i z hlediska algoritmu, který nám servíruje obsah, navr-
ženy tak, aby nás „neurohacknuly“. Jsou cíleně konstruo-
vané k manipulaci – využívají techniky neuromarketingu
i behaviorální psychologie k tomu, aby maximalizovaly
náš čas a pozornost. Není v silách lidské psychiky tomuto
tlaku odolat – a o to horší je, že něco takového dáváme
dětem.
Máte nějakou psychohygienu, kdy se tzv. odpojíte?
Pořád. Snažím se nebýt na sociálních sítích a zároveň
držet své děti od těchto platforem co nejdéle stranou.
A tam, kde už to nejde, vidím právě důvod, proč jsme
s kolegy založili startup, který využívá umělou inteligenci
k podpoře duševního zdraví.
The impact of AI on human thinking – What do you
see as the greatest risk?
The greatest risk posed by AI is that we may create
a general artificial intelligence – a system capable
of achieving any objective more effectively than
humans, yet without sharing our goals or values. That
could threaten the very survival of our civilisation.
Today, there’s immense focus on what AI can do,
but far less effort is being put into aligning its values
with those of humanity – the so-called AI alignment –
and that is a serious problem.
Is it even possible to maintain one’s mental integrity
online – especially on social media?
AI algorithms are designed to extract as much of our
time and attention as possible – and this is then
monetised by selling it to advertisers. This battle
between humans and algorithms is inherently unequal,
and the human is destined to lose.
Social media platforms – in terms of product design,
interface, and the algorithms that serve us content –
are intentionally built to “neuro-hack” us. They are
purposefully engineered to manipulate us, using
techniques from neuromarketing and behavioural
psychology to maximise the time we spend online.
The human psyche simply isn’t equipped to withstand
such pressure – and what’s even more troubling is that
we’re exposing children to this.
Do you have any form of mental hygiene – a way
to truly disconnect?
Constantly. I try to stay off social media as much
as possible and keep my children away from these
platforms for as long as I can. And where that’s
no longer possible, I see it as one of the key reasons
why my colleagues and I founded a startup that uses
artificial intelligence to support mental health.
JanRomportl
AI Vision, Leadership, Transformaon
Umělá inteligence napříč obory
Rozvoj umělé inteligence se stává zrcadlem doby – ukazuje naše naděje, obavy i možnos.
V manažerském fóru sdílí své pohledy exper z různých oblas, kteří s AI denně pracují,
experimentují a tvoří. Jejich odpovědi ukazují nejen technologický pokrok, ale i hluboké společenské
proměny, které s sebou AI přináší. Rozhovory vznikly díky Studiu POSITIV na konferenci o umělé
inteligenci a jsou dostupné i online.
Text: redakce, foto: ČERNÁ.AI
Scan me