Manažerské fórum
MANAŽERSKÉ FÓRUM
6 POSITIV 2/2024
V minulosti se elektronické útoky využíva-
jící sociálního inženýrství daly dobře od-
halovat zejména z neobratných překladů
nebo exotických e-mailových adres. Síla
velkých jazykových modelů AI bohužel
tyto neduhy dokáže ve značné míře elimi-
novat. Webové stránky firem jsou v pod-
statě podklady pro sestavení důvěryhodně
se tvářících e-mailů, např. od CEO směrem
k účetní s výzvou o urgentní platbu. Jsme
v éře, kdy je technická ochrana dat pouze
jednou částí zabezpečení. Proto jsou dnes
vzdělávání zaměstnanců a revize vnitřních
procesů zejména ve finanční oblasti klíčo-
vými prvky zvyšujícími odolnost firem vůči
kybernetickým hrozbám.
In the past, electronic attacks using
social engineering were easy to detect,
especially from clumsy translations or
exotic email addresses. Unfortunately,
the power of large-scale AI language
models can largely eliminate these attacks.
Company websites are essentially the basis
for composing credible-looking emails,
e.g. from the CEO towards the accountant
asking for urgent payment. We are in
an era where technical data protection
is only one part of security. That is why
today, employee training and the revision
of internal processes, especially in
the financial sector, are key elements to
increase the resilience of companies to
cyber threats.
“
Jsme v éře, kdy je technická
ochrana dat pouze jednou čás
zabezpečení.
”
Využívání umělé inteligence přináší do fi-
rem výhody, ale i nová rizika v kybernetické
bezpečnosti. Automatizace útoků pomocí
AI zvyšuje jejich rychlost a sofistikovanost.
Umožňuje provádění realistických phishin-
gových e-mailů a deep-fake videí, které
mohou být zneužity k dezinformacím a vy-
dírání.
Další hrozbu představují tzv. Adversarial
attacks, kdy útočníci manipulují AI mo-
dely drobnými změnami ve vstupních
datech, což vede k nesprávným výstu-
pům. Datové útoky mohou kompromito-
vat data potřebná pro fungování dalších
systémů.
Prevence zahrnuje především neustálé
školení uživatelů AI o možnostech a ri-
zicích jejího používání. Umělá inteligen-
ce už nevymizí, ale stane se nezbytnou
součástí našich každodenních životů.
Musíme mít na paměti, že s příležitost-
mi, které se nám s využíváním AI otevíra-
jí, porostou také její rizika. Firmy by tak
neměly brát neustálé vzdělávání svých
zaměstnanců na lehkou váhu.
The use of artificial intelligence brings
benefits to companies, but also new risks in
cybersecurity. Automating attacks with AI
increases their speed and sophistication. It
enables the execution of realistic phishing
emails and deepfake videos that can
be used for misinformation and blackmail.
Another threat is posed by adversarial
attacks, where attackers manipulate AI
models by making small changes to input
data, leading to incorrect outputs. Data
attacks can compromise data needed for
other systems to function.
Prevention primarily involves continuous
training of AI users on the capabilities and
risks of using AI. Artificial intelligence is
never going to disappear, and it will become
an essential part of our daily lives. We
must remember that as the opportunities
that come with the use of AI will grow,
so will its risks. Companies should not
take the continuous education of their
employees lightly.
Jakub Brada
Specialista na digitalizaci remních procesů a bezpečnost v kyberneckém prostředí
Specialist in digitalisaon of business processes and cyber security
Jaká rizika kyberneckých útoků může
přinášet využívání umělé inteligence
a dá se těmto hrozbám předcházet?
Jiří Král
Jednatel společnos Printo, spol. s r.o.
Managing Director Printo, spol. s r.o.
“
Firmy by tak neměly brát
neustálé vzdělávání svých
zaměstnanců na lehkou váhu.
”