Skočiť na hlavný obsah

Človek a AI – Prednášky a diskusia

Prednášky a diskusia

Od kybernetických rizík k umelej inteligencii

Marek ZemanKompetenčné a certifikačné centrum kybernetickej bezpečnosti

V telefóne sa ozve známy hlas. Naliehavo žiada peniaze. Volajúci sa spolieha na to, že hlas spoznáme a v náhlivosti si neoveríme jeho totožnosť. Pomôže ukončiť hovor a zavolať späť na číslo uložené v kontaktoch. Rovnako sa dá postupovať pri naliehavej požiadavke, ktorá zdanlivo prišla od nadriadeného.

Marek Zeman pri prednáške o kybernetických rizikách.

V organizáciách upozornil na nástroje AI, ktoré ľudia používajú pri práci z vlastnej iniciatívy. Ak vedenie nevie, kam zamestnanci vkladajú dokumenty, ťažko posúdi, kto má k údajom prístup. Navrhol preto začať prehľadom používaných nástrojov, každému určiť zodpovednú osobu a dohodnúť pravidlá overovania výstupov. V akademickej práci uviedol jednoduchý príklad: za správnosť citácie ručí autor, ktorý otvoril a skontroloval pôvodný zdroj.

Prezentácia

Video · 3:20Kto skontroluje výsledok, keď sa systém pomýli?

Kybernetická bezpečnosť sa začína človekom

Ladislav ŠnapkoKompetenčné a certifikačné centrum kybernetickej bezpečnosti

Komu sa zodpovedá človek, ktorý odošle odpoveď pripravenú s pomocou AI? Touto otázkou otvoril svoje vystúpenie absolvent Teologickej fakulty. Aj jazykovo vydarené zhrnutie môže vypustiť výnimku a zmeniť, na čo má adresát nárok alebo ako sa rozhodne. Človek poverený kontrolou preto potrebuje prístup k pôvodnému dokumentu, čas na porovnanie a právomoc odpoveď opraviť či zastaviť jej odoslanie.

Ladislav Šnapko počas prednášky za stolom s mikrofónom.

Na príklade telefonátu na technickú podporu vysvetlil, ako vzniká bezpečnostná kultúra. Ak zamestnanec po chybe čaká výčitku, nabudúce môže s ohlásením váhať. Ak spolu s technikom zistí, čo sa dá napraviť, dostáva dôvod ozvať sa aj pri ďalšej pochybnosti. Práve na takýchto rozhovoroch závisí, či pravidlá ochrany údajov fungujú v každodennej práci.

Prezentácia

Video · 4:06Komu sa zodpovedáme za odpoveď a čo pomáha priznať chybu?

Umelá inteligencia – dobrý sluha a zlý pán?

Peter ŠantavýRímskokatolícka cyrilometodská bohoslovecká fakulta Univerzity Komenského v Bratislave

Ako počítač rozpozná rukou napísanú číslicu, keď ju každý píše trochu inak? Na tomto príklade vysvetlil, ako sa učí neurónová sieť. Pri tréningu dostáva množstvo označených príkladov a podľa chýb postupne upravuje svoje vnútorné nastavenia. Aj keď novú číslicu určí správne, môže byť ťažké vysvetliť, ktoré znaky pri jej rozpoznaní rozhodli. Pri jazykových modeloch má tento rozdiel praktický dôsledok: model dokáže z naučených vzorov zostaviť presvedčivú odpoveď aj vtedy, keď uvádza chybný údaj.

Peter Šantavý pri projekcii s ukážkami rukou písaných číslic.

Čo sa pri používaní takého systému deje so samotným človekom? Ako príklad uviedol odporúčacie algoritmy, ktoré výberom ďalšieho obsahu usmerňujú našu pozornosť. V kresťanskom chápaní dobra človeka je podľa neho podstatné aj to, či technológia chráni súkromie, ponecháva priestor na slobodný úsudok a pomáha rozvíjať schopnosti, ktoré jej zverujeme. Dôveryhodnosť systému sa preto posudzuje podľa jeho účelu, spoľahlivosti i dôsledkov pre ľudí, ktorých sa jeho použitie dotýka.

Prezentácia

Video · 4:08Čo v praxi znamená AI zameraná na dobro človeka?

Vplyv digitálnych technológií na vzťahy, komunikáciu a prežívanie

Henrieta Šnapková a Juraj JančekCentrum poradenstva a prevencie, Námestovo

Sociálna pedagogička a psychológ opísali konflikt v školskej triede. Spolužiaci si v skupinovom chate odlišne vyložili tú istú správu. Nedorozumeniu nezabránili ani emotikony, ktorými chceli naznačiť tón svojich slov. Až pri rozhovore tvárou v tvár vyšlo najavo, že si nechceli ublížiť. Porozumenie sa obnovilo vo chvíli, keď sa jeden druhého mohli spýtať, ako svoju poznámku myslel.

Henrieta Šnapková a Juraj Janček prednášajú o komunikácii a vzťahoch.

Podobná otázka sa otvára, keď sa mladý človek so svojím problémom obráti na chatbota. Rýchla odpoveď môže byť príťažlivá najmä vtedy, keď je ťažké začať rozhovor s človekom. Janček vysvetlil, že v poradenskom rozhovore má mladý človek čas pomenovať vlastné možnosti a zvážiť, ktorý krok dokáže urobiť. Obaja tento rozdiel priblížili tromi otázkami pre žiakov: Čo mi online svet dáva? Čo mi berie? Kedy už potrebujem skutočného človeka?

Prezentácia

Človek zostáva v rozhodovaní

Jozef Žuffa a Milan Urbančok SDBTeologická fakulta Trnavskej univerzity

Keď jazykový model preformuluje našu myšlienku, za čo ešte zodpovedáme ako autori? Prednášajúci rozlíšili tri veci: čo chcel človek povedať, aké znenie mu ponúkol systém a k akému významu sa napokon prihlási. Aj zdanlivo drobná úprava môže zmeniť osobný dojem na tvrdenie, pre ktoré treba predložiť dôkaz. Autor preto potrebuje rozumieť tomu, čo sa vo vete zmenilo, vedieť svoje tvrdenie overiť a mať slobodu návrh opraviť alebo odmietnuť.

Jozef Žuffa pri rečníckom pulte počas spoločného vystúpenia.

Rozhodovanie sa začína už pri otázke, ktorú človek systému položí. Pri písaní spoločnej knihy s nepálskym jezuitom napríklad pripomienka spoluautora k využitiu textu v praxi zmenila aj ďalšie zadanie pre jazykový model. A rozhodovanie pokračuje aj po napísaní textu: čitateľ sa môže autora spýtať, prečo dané slová prijal. Vo výučbe preto podľa oboch autorov stojí za to prejsť so študentom jednu konkrétnu úpravu jeho práce. Keď vysvetlí, prečo návrh AI prijal či zmenil a o aký prameň sa oprel, učiteľ lepšie vidí, čomu študent sám rozumie.

Milan Urbančok sa vrátil k tomu, čo pri spoločnom rozhodovaní umožňuje dôveru. Keď niekto v navrhnutom texte vidí vec inak, potrebuje čas povedať prečo. Jeho námietka môže zmeniť aj znenie, ktoré sa už ostatným zdalo hotové.

Milan Urbančok SDB pod snímkou o počúvaní nesúhlasu.

Prezentácia

Spoločná diskusia

Na pracovisku sa zamestnanec po chybe rozhoduje, či sa ozve. V triede žiak zvažuje, či sa spolužiaka spýta, ako svoju správu myslel. V oboch prípadoch ďalší krok závisí aj od toho, akú reakciu človek očakáva. Pri hodnotení študentskej práce s AI sa táto otázka vracia k učiteľovi: čo sa môže od študenta dozvedieť, keď mu dá priestor vysvetliť vlastný postup?

Kto môže presadiť etické pravidlá pri vývoji technológií a kto zaplatí za ich bezpečnosť? Diskutujúci sa na túto otázku pozreli z viacerých strán. Hovorili o tom, na čom sa musia dohodnúť vlády, aké náklady prináša zavádzanie pravidiel firmám a ako môže vzdelávanie pomôcť jednotlivcom. V súvislosti so sociálnou náukou Cirkvi zaznela aj otázka, ako do týchto rozhodnutí zapojiť ľudí z rôznych odborov.

V debate o školách zaznela skúsenosť učiteľov, ktorí sa učili používať AI spoločne. Keď žiak odovzdá prácu, môžu s ním prejsť aj cestu k výsledku. Ktorú myšlienku priniesol sám? Čo mu navrhol nástroj, čo si overil a prečo niektorý návrh odmietol? Taký rozhovor dáva učiteľovi možnosť zistiť, čomu žiak rozumie, aj keď mu pri formulácii textu pomáhala technológia.

Pri otázke, ako rozlíšiť nadmerné používanie sociálnych sietí od závislosti, sa pozornosť obrátila ku konkrétnemu dieťaťu. Čo sa v jeho každodennom živote zmenilo? Ako spí, dokáže sa sústrediť, aké má vzťahy s druhými? Ďalšie otázky sa týkali praktickej ochrany súkromia – od používania správcov hesiel a rozpoznávania podvodných správ až po to, komu človek sprístupňuje údaje o svojom zdraví, keď ich zadá do chatu.

Z konferencie vyjde aj zborník vedeckých príspevkov.