Etika v umelej inteligencii
Juraj Podroužek
Kempelenov inštitút inteligentných technológií
Technologické inovácie prenikajú do všetkých oblastí nášho života, pričom zásadne menia našu spoločnosť ako aj náš vzťah k sebe samým. Predovšetkým s nástupom umelej inteligencie sme svedkami toho, ako tieto systémy prispievajú k efektívnejšej práci s informáciami, ale zároveň vytvárajú aj nové výzvy pri ich overovaní a kritickom skúmaní. Dôležitou témou sa tak stáva dôveryhodnosť a spoľahlivosť technológií s ktorými ako výskumníci, tvorcovia ale aj ako užívatelia prichádzame do kontaktu. V tejto prednáške sa zamyslíme nad tým, akú úlohu zohráva odborné skúmanie etických otázok pri vývoji a nasadzovaní systémov umelej inteligencie aj s ohľadom na nedávny vzostup generatívnej AI a veľkých jazykových modelov. Priblížime si hlavné princípy dôveryhodnej a etickej AI a ukážeme si ako sa ich nerešpektovanie môže prejavovať v praxi. Zamyslíme sa nad problémom antropomorfizácie AI a s tým úzkou súvisiacou otázkou zodpovednosti za výstupy systémov AI. Ale aj nad tým, ako prítomnosť odborníkov so spoločenskovedným či humanitným zameraním môže motivovať inžinierov k riešeniam, ktoré popri technologickej excelencii budú citlivo reagovať aj na spoločenské a etické výzvy.
Kempelenov inštitút inteligentných technológií
Technologické inovácie prenikajú do všetkých oblastí nášho života, pričom zásadne menia našu spoločnosť ako aj náš vzťah k sebe samým. Predovšetkým s nástupom umelej inteligencie sme svedkami toho, ako tieto systémy prispievajú k efektívnejšej práci s informáciami, ale zároveň vytvárajú aj nové výzvy pri ich overovaní a kritickom skúmaní. Dôležitou témou sa tak stáva dôveryhodnosť a spoľahlivosť technológií s ktorými ako výskumníci, tvorcovia ale aj ako užívatelia prichádzame do kontaktu. V tejto prednáške sa zamyslíme nad tým, akú úlohu zohráva odborné skúmanie etických otázok pri vývoji a nasadzovaní systémov umelej inteligencie aj s ohľadom na nedávny vzostup generatívnej AI a veľkých jazykových modelov. Priblížime si hlavné princípy dôveryhodnej a etickej AI a ukážeme si ako sa ich nerešpektovanie môže prejavovať v praxi. Zamyslíme sa nad problémom antropomorfizácie AI a s tým úzkou súvisiacou otázkou zodpovednosti za výstupy systémov AI. Ale aj nad tým, ako prítomnosť odborníkov so spoločenskovedným či humanitným zameraním môže motivovať inžinierov k riešeniam, ktoré popri technologickej excelencii budú citlivo reagovať aj na spoločenské a etické výzvy.
