Pro zdravotně postižené je budoucnost umělé inteligence hrozivá

V prosinci americké sčítání lidu navrhlo změny v tom, jak kategorizuje zdravotní postižení. Pokud by byly provedeny, změny by snížily počet Američanů, kteří jsou považováni za zdravotně postižené, zatímco odborníci tvrdí, že lidé se zdravotním postižením jsou již podpočítáni.

Sčítání dalo svůj návrh k veřejnému připomínkování; kdokoli může podat připomínku k tvorbě pravidel federální agentury sám. Ale v tomto konkrétním případě měli lidé, kterých se návrh nejvíce dotkl, více překážek ve způsobu vyjádření.

„Bylo pro mě opravdu důležité pokusit se přijít na to, jak těmto lidem co nejlépe umožnit, aby mohli psát a odesílat komentáře,“ řekl Matthew Cortland, vedoucí pracovník společnosti Data for Progress. S ohledem na to vytvořili asistenta bota GPT-4 pro lidi, kteří chtěli odeslat vlastní komentáře. Cortland v minulosti vedl komentovací kampaně zaměřené na předpisy související s postižením, ale toto bylo jejich první s pomocí AI.

„Děkuji, to mi umožnilo vytvořit takový komentář, jaký jsem vždy chtěl vytvořit,“ řekl jim jeden člověk. “Je tu příliš mnoho mozkové mlhy na to, abych to udělal právě teď.”

V závislosti na tom, kdo počítá, má postižení 12,6 procenta nebo dokonce 25 procent populace. Samotné postižení je definováno nesčetnými způsoby, ale široce zahrnuje fyzické, intelektuální a kognitivní poruchy spolu s chronickými nemocemi; osoba s tělesným postižením může používat invalidní vozík, zatímco závažná nemoc omezující energii, jako je dlouhý covid, může lidem ztížit zvládnutí úkolů každodenního života.

Umělá inteligence – ať už ve formě zpracování přirozeného jazyka, počítačového vidění nebo generativní umělé inteligence, jako je GPT-4 – může mít pozitivní vliv na komunitu postižených, ale obecně vypadá budoucnost umělé inteligence a postižení dosti pochmurně.

„Způsob, jakým je umělá inteligence často používána, je v podstatě frenologie s matematikou,“ říká Joshua Earle, odborný asistent na University of Virginia, který propojuje historii eugeniky s technologií. Lidé, kteří nejsou obeznámeni s postižením, mají negativní názory utvářené médii, popkulturou, regulačním rámcem a lidmi kolem nich a považují postižení spíše za deficit než za kulturní identitu. Systém, který znehodnocuje zdravotně postižené životy na základě zakázky a designu, je systém, který bude tyto chyby v technických produktech nadále opakovat.

„Způsob, jakým se s umělou inteligencí často zachází a jak ji používá, je v podstatě frenologie s matematikou“

Tento postoj je ostře ilustrován v debatách o přidělování péče na vrcholu pandemie covid-19. Projevuje se také ve formě kvalitativně upravených let života (QALY), což je nástroj „nákladové efektivity“ podporovaný umělou inteligencí, který se používá ve zdravotnictví k určení „kvality života“ prostřednictvím externích metrik, nikoli vnitřní hodnoty něčího života. Například nemožnost opustit domov může být započítána jako bod proti někomu, stejně jako degenerativní onemocnění, které omezuje fyzickou aktivitu nebo zaměstnatelnost. Nízké skóre může vést k odmítnutí dané lékařské intervence v analýzách nákladů a přínosů; proč se zapojovat do nákladné léčby pro někoho, o němž se předpokládá, že bude žít kratší život poznamenaný zdravotním postižením?

Umělá inteligence slibuje, že automatizace usnadní práci, ale co přesně se zjednodušuje? V roce 2023 vyšetřování ProPublica odhalilo, že pojišťovací gigant Cigna používal interní algoritmus, který automaticky označil nároky na krytí, což lékařům umožnilo podepsat hromadná zamítnutí, která se nepřiměřeně zaměřovala na zdravotně postižené osoby s komplexními zdravotními potřebami. Systém zdravotní péče není jedinou arénou, ve které mohou algoritmické nástroje a umělá inteligence fungovat proti postiženým lidem. Jedná se o rostoucí běžnou věc v zaměstnání, kde nástroje pro prověřování uchazečů o zaměstnání mohou představovat zkreslení, stejně jako logické hádanky a hry používané některými náboráři nebo sledování očí a výrazů, které doprovází některé pohovory. Obecněji, říká Ashley Shew, docentka na Virginia Tech, která se specializuje na postižení a technologie, „přispívá k dalšímu sledování postižených lidí“ prostřednictvím technologií, které je vyčleňují.

Technologie, jako jsou tyto, často vycházejí ze dvou předpokladů: že mnoho lidí předstírá nebo zveličuje svá postižení, a proto je prevence podvodů zásadní, a že život s postižením nestojí za život. Proto rozhodnutí o alokaci zdrojů a sociálním začlenění – ať už jde o služby domácí péče, přístup na pracoviště nebo schopnost oslovit lidi na sociálních sítích – nemusí považovat lidi s postižením za rovnocenné s lidmi bez postižení. Tento postoj se odráží v nástrojích umělé inteligence, které společnost vytváří.

Nemusí to tak být.

Kreativní využití GPT-4 společností Cortland k pomoci postiženým lidem zapojit se do politického procesu ilustruje, jak se ve správných rukou může AI stát cenným nástrojem přístupnosti. Existuje nespočet příkladů, pokud se podíváte na správná místa – například počátkem roku 2023 vydala Midjourney funkci, která by generovat alternativní text pro obrázkyzvýšení dostupnosti pro nevidomé a slabozraké lidi.

Amy Gaeta, akademička a básnířka, která se specializuje na interakce mezi lidmi a technologií, také vidí potenciál pro umělou inteligenci, která „může zastávat opravdu únavné úkoly. [disabled people] kteří jsou již přepracovaní, extrémně unavení“ a zautomatizujte je, například vyplňováním formulářů nebo nabídkou cvičných rozhovorů pro pracovní pohovory a sociální prostředí. Stejné technologie by mohly být použity pro činnosti, jako je boj s pojišťovnami kvůli nespravedlivým zamítnutím.

„Lidé, kteří to budou používat, budou pravděpodobně ti, kteří nejlépe pochopí, když to dělá něco špatně,“ poznamenává Earle v souvislosti s technologiemi vyvinutými kolem nebo pro, ale ne s postiženými lidmi. Pro skutečně světlou budoucnost v AI musí technologická komunita od začátku přijmout postižené lidi jako inovátory, programátory, designéry, tvůrce a, ano, jako vlastní uživatele, kteří mohou materiálně utvářet technologie, které zprostředkovávají svět kolem nich.

Leave a Reply

Your email address will not be published. Required fields are marked *