Pondělí 11. listopadu 2024, svátek má Martin
  • Premium

    Získejte všechny články
    jen za 89 Kč/měsíc

  • schránka
  • Přihlásit Můj účet

První český ryze internetový deník. Založeno 23. dubna 1996

SOFTWARE: Odpovědnost a riziko

diskuse (30)
t,rvc

100 let vpřed či 100 let zpět? Nová pravidla EU o odpovědnosti za software
____________________________

S novou směrnicí EU o odpovědnosti za vadné výrobky (PE-CONS 7/24) se nyní software a systémy s umělou inteligencí (AI) oficiálně uznávají v rámci právní odpovědnosti za výrobky. Tato regulace platí ve všech zemích EU a také pro všechny globální společnosti, které působí na trhu EU.

Tento legislativní posun má tak jako každá mince dvě strany. Na straně jedné přináší dlouho očekávanou odpovědnost pro poskytovatele softwaru. Na straně druhé tato směrnice může omezit inovace kvůli vysokým nákladům na dodržování pravidel, což by zvláště zasáhlo menší technologické firmy. Pojďme se tedy podívat na dopady této směrnice z obou stran a dopady na celé softwarové odvětví.

Softwarové společnosti jsou konečně zodpovědné za své výrobky

Software je výrobek jako každý jiný: Se softwarem nyní klasifikovaným jako „výrobkem“ podle práva EU mohou spotřebitelé požadovat po vývojářích stejnou odpovědnost jako u fyzického zboží. To znamená, že digitální produkty - od samostatného softwaru až po zabudované systémy nebo cloudové služby - musí splňovat jasné bezpečnostní normy. Pokud tedy produkt selže, spotřebitelé mají nárok na náhradu škody bez potřeby dokazování nedbalosti, což klade prioritu na ochranu spotřebitele.

Systémy AI pod přísnějším dohledem: Směrnice zahrnuje systémy AI pod přísnější regulační kontrolu a klasifikuje vývojáře a poskytovatele služeb jako „výrobce.“ Tím se společnosti stávají odpovědnými za chování a bezpečnost produktů AI, i v případech autonomního rozhodování. Pro vysoce riziková odvětví jako je automobilový a zdravotnický průmysl to přináší jistotu, že AI bude splňovat určité bezpečnostní a spolehlivostní standardy.

Široká aplikace na všechny formy softwaru: Směrnice se vztahuje na veškerý software bez ohledu na způsob jeho distribuce - od instalovaných aplikací po SaaS platformy. To zajišťuje, že digitální služby budou odpovídat bezpečnostním požadavkům a že firmy nebudou moci obejít odpovědnost změnou způsobu dodání. Vývojáři SaaS, tvůrci IoT zařízení a firmy využívající edge computing tak budou muset klást větší důraz na posouzení rizik a preventivní bezpečnostní opatření.

Vyšší standard kybernetické bezpečnosti: Zahrnutím kybernetických hrozeb do rámce odpovědnosti musí společnosti zavést robustnější bezpečnostní protokoly.

Tato nová směrnice se shoduje s body uvedenými v mém předchozím článku jak „Donutit výrobce softwaru k odpovědnosti za následky chyb v jejich software“, který vyzývá k přísnějším standardům odpovědnosti pro poskytovatele softwaru. Směrnice posiluje myšlenku, že společnosti účtující za software pro kritické aplikace musí nést odpovědnost za jeho výkonnost, což může posílit důvěru v digitální produkty.

Další rána evropskému průmyslu – finální akt de-industrializace Evropy?

Nyní se podívejme na tuto směrnici z druhé strany – strach společností cokoliv dodávat na evropský trh, extrémní navýšení nákladů na jakýkoliv software. Lze s jistotou očekávat, že mnozí výrobci software nebudou své výrobky jednoduše dodávat na evropský trh a inovace se zcela zastaví. Na druhou stranu, pokud by šli lidé zodpovědní za vyhazovaní miliard „digitalizace státu“ do vězení, možná by věci začaly fungovat lépe.

Křehká rovnováha mezi inovací a odpovědností: Rozsáhlé požadavky na odpovědnost vyžadované směrnicí mohou neúmyslně potlačit inovace, zvláště mezi menšími technologickými firmami. Startupy se často spoléhají na rychlé vývojové cykly, rychlou iteraci a experimentální funkce, ale podle této směrnice by každý nový řádek kódu mohl představovat významné riziko odpovědnosti. To zcela jistě firmy odradí od riskování a zcela zabrzdí technologický pokrok.

Negativní dopad na vývoj AI: Zatímco zahrnutí AI do odpovědnostního práva podporuje bezpečnost, může také zkomplikovat vývoj u firem pracujících na inovativních funkcích v AI. Autonomní software, který se přizpůsobuje novým podmínkám nebo systémy, které využívají strojové učení pro vlastní evoluci, jsou inherentně nepředvídatelné. Aby firmy splňovaly požadavky směrnice, mohly by být nuceny omezit míru autonomie AI, což by mohlo zbrzdit inovace a zabránit průlomům v automatizaci a strojovém učení.

Vysoké náklady na shodu pro nové účastníky: Dodržování požadavků na odpovědnost nebude levné. Velké podniky si mohou dovolit absorbovat náklady na dodatečné testování, monitorování a úpravy, ale pro malé a středně velké firmy by to mohlo představovat výraznou finanční zátěž. Pro technologické odvětví, zejména pro startupy, mohou tyto náklady přinutit vývojáře k omezení inovací kvůli rizikům právní odpovědnosti. Takže software nakonec zůstane v rukou několika gigantů, kteří se díky hordám právníků stejně jakékoliv odpovědnosti vyhnou.

Výzvy v open-source softwaru: Ačkoli směrnice osvobozuje nekomerční open-source software, komerční společnosti, které spoléhají na open-source příspěvky, zůstávají v právní nejistotě. Komerční firmy by mohly váhat s využitím open-source kódu, pokud budou odpovědné za jeho potenciální chyby, což by vedlo k vyšším vývojovým nákladům a případně k omezení spolupráce v rámci vývojářské komunity.

Původně zveřejněno na LinkedIn:

https://www.linkedin.com/pulse/100-years-forward-back-eus-new-software-rules-petr-roupec-xp69c

Aston Ondřej Neff
11. 11. 2024

Zdeněk Hřib se stal předsedou Pirátů. Za jeho primátorování Praha definitivně zastavila svůj rozvoj.

Jan Bartoň
11. 11. 2024

Američané dali ve volbách svůj hlas pro zastavení ilegální migrace.

Martin Mařák
11. 11. 2024

Mediální masáž, jejíž cílem jsme všichni v době současné, mně už fakt leze krkem.

Daniela Kovářová
11. 11. 2024

Kontinuita právního řádu znamená, že právo platí nadále i přes významnou společenskou změnu.

Lubomír Stejskal
11. 11. 2024

V republikánských primárkách před letošním kláním o Bílý dům, jsem přál vítězství Nikki Haleyové.

Aston Ondřej Neff
8. 11. 2024

Organizace přisáknuté na stát si vymýšlejí fígle, jak se napakovat.

Aston Ondřej Neff
9. 11. 2024

Vládní koalice utržila další vítězství , když ve sněmovně protlačila úpravy penzijních parametrů.

přečetl Panikář
9. 11. 2024

Po desetiletích mnozí z nás konečně mohou s úlevou vydechnout.

Ladislav Jakl
8. 11. 2024

V opozici číhá sestava CDU-CSU, ani ta není imunní vůči bruselskému zelenému fanatismu.

Jan Kovanic
9. 11. 2024

Během amerických prezidentských voleb se staly už různé věci.

Lidovky.cz, ČTK
10. 11. 2024

Nově zvolený americký prezident Donald Trump hned ve čtvrtek telefonoval s ruským prezidentem...

duff Dominik Duffek, jic Jiří Čihák
9. 11. 2024

Viděli jste ligovou tabulku podle formy za posledních pět zápasů? Horší bilanci než Sparta, která v...

Lidovky.cz, ČTK
10. 11. 2024

Ruská armáda shromáždila 50 tisíc vojáků, včetně posil ze Severní Koreje, na protiofenzívu s cílem...

10. 11. 2024

Při letmém pohledu do médií by bylo snadné získat pocit, že koncern VW se nachází kvůli Green Dealu...

jol Jolana Vašinová
10. 11. 2024

Běloruský bloger a šprýmař Vladislav Bokhan obeslal několik škol v ruské Voroněžské oblasti s...

Vyhledávání

TIRÁŽ NEVIDITELNÉHO PSA

Toto je DENÍK. Do sítě jde obvykle nejpozději do 8.00 hod. aktuálního dne. Pokud zaspím, opiji se, zešílím nebo se zastřelím, patřičně na to upozorním - neboť jen v takovém případě vyjde Pes jindy, eventuálně nikdy. Šéfredaktor Ondřej Neff (nickname Aston). Příspěvky laskavě posílejte na adresu redakce.

ondrejneff@gmail.com

Rubriku Zvířetník vede Lika.

zviretnik.lika@gmail.com

HYENA

Tradiční verze Neviditelného psa. Sestává ze sekce Stručně a z článků Ondřeje Neffa - Politický cirkus a Jak život jde. Vychází od pondělka do pátku.

https://www.hyena.cz