Riešené úlohy k 1. - 3. lekcii AI Act Nové

Nasledujúce 3 cvičenia vám pomôžu precvičiť znalosti z kurzu Základov AI z minulých lekcií. Vo vlastnom záujme sa ich pokúste vyriešiť sami. Pod článkom máte na kontrolu riešenie na stiahnutie. Ale pozor, akonáhle sa naň pozriete bez vyriešenia príkladov, stráca pre vás cvičenie zmysel a nič sa nenaučíte:)

Ak si naozaj nebudete vedieť rady, pozrite sa radšej znova do minulého tutoriálu a pokúste sa na to prísť.

Ohlasy študentov

Jednoduchý príklad

Rozhodni do akej rizikovej kategórie podľa AI Act spadajú nasledujúce AI systémy a zdôvodni svoje rozhodnutie:

1. AI pre automatické triedenie kandidátov pri prijímacom konaní.
2. AI systém analyzujúci záznamy pacientov a odporúčajúci liečbu.
3. AI chatbot poskytujúci bežnú zákaznícku podporu.
4. AI softvér na predpovedanie vývoja akciových trhov.
5. AI model na rozpoznávanie tvárí vo verejnom priestore.

Očakávaný výstup: Zaradenie systémov a zdôvodnenie.

Pokročilý príklad

Vytvor príklad AI systému, ktorý by mohol spadať do zakázanej kategórie, a popíš, prečo je jeho použitie neprijateľné. Zváž aké negatívne dôsledky by mal taký systém pre spoločnosť a ako by AI Act pomohol zabrániť jeho nasadeniu.

Očakávaný výstup: Stručná analýza zakázaného systému a jeho dôsledkov.

Príklad pre náročných - BONUS

Precvič svoju schopnosť rozpoznať a eliminovať skreslenie v trénovacích dátach AI systému v súlade s požiadavkami AI Actu. Budeš analyzovať reálne dáta, identifikovať potenciálne diskriminačné vzorce a navrhneš opatrenia, ktoré zaistia férovosť AI modelu.

Zadanie

Si dátový analytik vo firme CreditAI, ktorá vyvíja AI model na schvaľovanie pôžičiek. Tvojou úlohou je:

1. Analyzovať dataset historických žiadostí o pôžičky.
2. Identifikovať možné skreslenie (bias) v AI modeli.
3. Navrhnúť stratégie na zmiernenie diskriminácie.
4. Odporučiť kroky, ako zaistiť+3 súlad s AI Act.

Dataset na stiahnutie a analýze

Dataset obsahuje údaje o schválených aj zamietnutých pôžičkách. Každý riadok zodpovedá jednej žiadosti.

Stĺpce datasetu:

• id – Identifikačné číslo žiadosti
• age – Vek žiadateľa
• gender – Pohlavie (M = muž, F = žena)
• income – Ročný príjem v €
• loan_amount – Vyššie požadované pôžičky v €
• credit_score – Skóre žiadateľa (0–1000)
• loan_approved – Stav schválenia (1 = schválené, 0 = zamietnuté)
• ethnicity – Etnická skupina (A, B, C, D)
• residence – Bydlisko (urban, suburban, rural)

Dataset je priložený v archíve bonusového príkladu pod názvom loan_approval_dataset. Archív je na stiahnutie dole pod cvičením.

Identifikácia skreslenia

Identifikuj potenciálne skreslenie v dátach a zameraj sa na nasledujúce oblasti:

• Zváž, či sú určité skupiny (napr. etnické, rodové) systematicky znevýhodnené pri schvaľovaní pôžičiek.
• Porovnaj aké faktory majú najväčší vplyv na to, či bude žiadosť schválená.
• Porovnajte mieru schválenia pôžičiek podľa pohlavia a etnicity
• Porovnajte vplyv veku, príjmu a skóre kreditu na rozhodovanie.

Ďalej navrhni opatrenia na elimináciu diskriminácie. Aké úpravy v trénovacích dátach by mohli zmierniť skreslenie? Ako zaistiť súlad s AI Act, aby systém rozhodoval spravodlivo?

Očakávaný výstup: Analýza datasetu - stručný výstup, zhodnotenie skreslenia a návrh opatrení na zmiernenie diskriminácie a súlad s AI Act.

V nasledujúcom cvičení, Riešené úlohy k 14. - 18. lekcii AI Act, si precvičíme nadobudnuté skúsenosti z predchádzajúcich lekcií.

 

Mal si s čímkoľvek problém? Stiahni si vzorovú aplikáciu nižšie a porovnaj ju so svojím projektom, chybu tak ľahko nájdeš.

Na absolvovanie tohto cvičenia prosím splň všetky príklady tým, že ich úspešne odovzdáš na otestovanie.