Sztuczna inteligencja coraz częściej pomaga nam podejmować decyzje, analizować dane, tworzyć treści, projektować rozwiązania, pisać kod i automatyzować pracę. Wraz z rozwojem generatywnej AI możliwości te rosną w imponującym tempie.
W organizacjach pytamy więc: Co możemy zrobić z AI? Jak możemy wykorzystać ją szybciej? Gdzie przyniesie nam największą efektywność? Jaką wartość może stworzyć dla klientów i dla biznesu?
Obserwuję jednak, że rzadziej pytamy: Czy powinniśmy to zrobić?
Zaczynamy zatem rozmowę o etyce.
Moje wykształcenie akademickie obejmuje również filozofię. Większość mojej kariery zawodowej spędziłam w świecie technologii, zwinności i zarządzania produktem. Być może dlatego etyka nigdy nie była dla mnie abstrakcyjną dziedziną filozofii. Interesuje mnie przede wszystkim jako sposób patrzenia na decyzje: jakie wartości za nimi stoją, kogo dotyczą, jakie mogą przynieść konsekwencje i czy jesteśmy gotowi wziąć za te konsekwencje odpowiedzialność.
Wspólnie z Patricią Kong poruszałyśmy ten temat w Whitepaper Ethics in Product Management,[1] opublikowanym przez Scrum.org. Punktem wyjścia było proste spostrzeżenie: etyka nie jest czymś, co pojawia się dopiero wtedy, gdy budujemy produkt (wykorzystujący sztuczną inteligencję lub jakikolwiek inny produkt bez użycia AI). Decyzje produktowe od dawna mają wymiar etyczny. Produkty wpływają na zachowania ludzi, na ich wybory, dostęp do informacji czy usług. Decydujemy, jakie dane zbieramy, co optymalizujemy, jakie zachowania wspieramy i komu tworzone przez nas rozwiązanie może pomóc lub zaszkodzić.
AI nie stworzyła więc problemu etyki.
AI sprawiła jednak, że wiele z tych pytań nadal należy sobie zadawać, a konsekwencje naszych decyzji mogą pojawiać się szybciej i na znacznie większą skalę.
Kiedy zaczynamy rozmawiać o etyce sztucznej inteligencji, pojawiają się takie pojęcia jak stronniczość (bias), sprawiedliwość (fairness), wyjaśnialność (explainability), prywatność (privacy), rozliczalność (accountability) czy szerzej: odpowiedzialna sztuczna inteligencja (Responsible AI).
Dodatkowo warto zadać pytanie: czym właściwie jest etyka w kontekście technologii i produktu?
W codziennej pracy organizacje patrzą na decyzje z kilku perspektyw.
Jedną z tych perspektyw jest pytanie o możliwości technologiczne. Inną perspektywą jest pytanie, czy rozwiązujemy rzeczywisty problem, czy tworzymy wartość dla klienta? Czy klienci będą chcieli z niego korzystać? Czy inwestycja ma sens dla organizacji?
Kolejną perspektywą jest kwestia prawa, regulacji, bezpieczeństwa, ochrony danych i zgodności. Zatem pytamy, czy wolno nam to zrobić?
W mojej ocenie, potrzebne jest jeszcze pytanie, które padło powyżej: czy powinniśmy to zrobić?
Nie zawsze organizacje zadają sobie to pytanie, które wkracza w obszar etyki.
Spójrzmy z innej perspektywy. Nie każda funkcjonalność, którą potrafimy zrobić, powinna zostać zrobiona. Nie każda rzecz, która może przynieść zysk, powinna zostać wdrożona. I nawet zgodność z prawem nie daje automatycznie odpowiedzi na pytanie, czy dana decyzja jest dobra z etycznego punktu widzenia.
Prawo wyznacza granice. Natomiast etyka pomaga nam podejmować decyzje także w ogromnym obszarze znajdującym się pomiędzy nimi.
Istnieją różne teorie i ramy etyczne, dlatego ta sama decyzja może wyglądać inaczej w zależności od przyjętej perspektywy. Więcej na ten temat, wraz z przykładami, opisujemy w Ethics in Product Management.
Wyobraźmy sobie produkt, który dzięki AI potrafi bardzo dokładnie przewidzieć, jaki komunikat najbardziej zwiększy prawdopodobieństwo zakupu przez konkretnego użytkownika.
Z perspektywy technologicznej może to być możliwe do zrealizowania.
Z perspektywy biznesowej prawdopodobnie będzie spodziewany sukces. Załóżmy, że rośnie konwersja, a wraz z nią przychody.
Być może sposób działania systemu jest także zgodny z obowiązującymi regulacjami.
Pozostaje jednak pytanie: w którym momencie personalizacja zaczyna być manipulacją?
Jeżeli wiemy, że użytkownik jest w określonym stanie emocjonalnym, czy powinniśmy wykorzystać tę wiedzę, aby skuteczniej coś mu sprzedać?
Jeżeli algorytm odkryje, że wywołanie niepokoju zwiększa zaangażowanie, czy powinniśmy optymalizować produkt właśnie w tym kierunku?
A jeśli mechanizm rekomendacyjny potrafi zatrzymać użytkownika w aplikacji o 20 procent dłużej, to czy jest to na pewno dobry rezultat?
Dlatego do wcześniejszych pytań dodałabym jeszcze jedno: Dla kogo?
Produkt może tworzyć wartość dla firmy, a jednocześnie zmniejszać wartość dla użytkownika.
Rozwiązanie może być wartościowe dla części klientów, ale wykluczać określoną grupę.
System rekrutacyjny wykorzystujący AI może skrócić analizę setek aplikacji z kilku dni do kilku minut. Ale czy wiemy, na jakiej podstawie odrzuca kandydatów? Czy pewne grupy nie są systematycznie oceniane gorzej? I czy osoba odrzucona przez system ma możliwość zakwestionowania jego decyzji?
Pytanie „czy to jest etyczne?” rzadko ma prostą odpowiedź „tak” albo „nie”. Kontekst i punkt widzenia mają tutaj znaczenie. Różne ramy etyczne mogą pomóc spojrzeć na ten sam produkt lub decyzję z różnych perspektyw.
Być może poszukiwanie jednej uniwersalnej odpowiedzi jest trudne, natomiast zdecydowanie warto spróbować zadawać pytania, które mogą nadać szerszą perspektywę.
Wiele problemów, o których mówimy w kontekście AI, istniało wcześniej. Dyskryminacja, manipulacja, niewłaściwe wykorzystanie danych czy brak transparentności nie pojawiły się wraz z modelami językowymi.
AI zmienia jednak kilka aspektów. Są to, między innymi, skala, szybkość, złożoność czy pozorna obiektywność.
Na przykład wynik wygenerowany przez system może wyglądać jak rezultat neutralnej, matematycznej analizy. Ale model pracuje na określonych danych, został zaprojektowany w określony sposób i działa w kontekście wybranym przez ludzi.
Innymi słowy, AI nie usuwa ludzkich wyborów z procesu (jeszcze).
AI potrzebuje danych. Generatywna AI dodatkowo sprawia, że niezwykle łatwo jest przenosić do zewnętrznych narzędzi dokumenty, fragmenty rozmów, informacje o klientach czy kod.
Wyobraźmy sobie pracownika, który otrzymał od klienta obszerny dokument. Wkleja go do publicznego narzędzia Generatywnej AI i w szybko otrzymuje świetne podsumowanie.
Zaoszczędził dwie godziny pracy.
Czy zrobił coś dobrego?
Z punktu widzenia efektywności, prawdopodobnie tak.
Ale co znajdowało się w dokumencie? Czy miał prawo przekazać te dane do zewnętrznego systemu? Czy klient wiedział, że jego informacje zostaną wykorzystane w ten sposób?
To pokazuje, dlaczego odpowiedzialne wykorzystanie AI (Responsible AI) nie może sprowadzać się jedynie do wyboru modelu.
Potrzebujemy także świadomości ludzi korzystających z AI oraz jasnych zasad organizacyjnych dotyczących danych i narzędzi.
Drugim często omawianym problemem jest z ang. bias, czyli szeroko rozumiana stronniczość.
Systemy AI uczą się na danych. Jeżeli dane odzwierciedlają historyczne nierówności, niedostatecznie reprezentują pewne grupy albo są obciążone określonymi założeniami, wyniki systemu również mogą je powielać.
Stronniczość nie pojawia się tylko w danych.
Może pojawić się już wtedy, gdy wybieramy problem, który chcemy rozwiązać. Gdy definiujemy zmienne. Kiedy określamy, co uznajemy za sukces. Albo kiedy decydujemy, w którym miejscu procesu człowiek zostanie zastąpiony przez automat.
Dlatego sprawiedliwość (fairness) nie jest problemem wyłącznie określonej grupy, na przykład zespołów technicznych czy specjalistów od danych.
Jest również problemem produktowym.
UNESCO w swojej Recommendation on the Ethics of Artificial Intelligence[2] wskazuje m.in. na sprawiedliwość i niedyskryminację, prywatność, transparentność, rozliczalność/odpowiedzialność i nadzór ze strony człowieka (human oversight) jako podstawowe zasady odpowiedzialnego wykorzystania AI. Jednocześnie mocno osadza je w ochronie praw i godności człowieka.
Wyobraźmy sobie, że kontaktujemy się z obsługą klienta.
Rozmowa jest bardzo naturalna. Otrzymujemy odpowiedzi, pytania dodatkowe, przeprosiny, a nawet komunikaty brzmiące jak empatia.
Czy ma znaczenie, czy po drugiej stronie znajduje się człowiek?
W wielu sytuacjach być może nie.
Ale czy mamy prawo o tym wiedzieć?
Od 2 sierpnia 2026 r. część takich kwestii w Unii Europejskiej nie jest już tylko pytaniem etycznym. Obowiązujące wymogi transparentności AI Act[3] wymagają m.in. informowania użytkowników w określonych sytuacjach, że komunikują się z systemem AI, a także oznaczania niektórych treści generowanych lub zmienianych przez AI.
To przykład relacji pomiędzy prawem i etyką. Prawo może określić minimalny wymagany poziom transparentności.
Jednak osoba zarządzająca produktem nadal powinna zadać pytania wykraczające poza zgodność z prawem.
Czy użytkownik rozumie, z czym ma do czynienia?
Czy sposób zaprojektowania interakcji nie powoduje błędnego wrażenia?
Czy informacja jest rzeczywiście widoczna, czy tylko formalnie spełnia wymaganie?
Co ważne, transparentność nie polega wyłącznie na umieszczeniu odpowiedniego zdania w regulaminie. Jej celem powinno być umożliwienie człowiekowi podejmowania świadomych decyzji.
Częstą odpowiedzią na ryzyko związane z AI jest: „Przecież ostateczną decyzję podejmuje człowiek”.
To jednak nie zawsze wystarcza.
Wyobraźmy sobie system, który analizuje sto przypadków i dla każdego przedstawia rekomendację. Człowiek przez kilka godzin przegląda wyniki, a rekomendacje systemu okazują się poprawne w zdecydowanej większości przypadków.
Co stanie się przy przypadku numeru 83?
Czy człowiek dokona niezależnej oceny? Być może tak, być może nie.
Udział człowieka w procesie decyzyjnym (human in the loop), ma sens wtedy, kiedy człowiek rzeczywiście ma możliwość, kompetencje, czas i prawo zakwestionować rekomendację AI. Inaczej ludzki nadzór może stać się jedynie formalnym etapem procesu.
Dlatego odpowiedzialność nie może polegać na dodaniu człowieka na końcu zautomatyzowanego procesu.
Musimy zaprojektować również sposób współpracy człowieka z AI.
W rozwiązaniach wykorzystujących AI, istnieje ryzyko, że odpowiedzialność może być rozmyta. Weźmy taki przykład: model pochodzi od zewnętrznego dostawcy, zespół integruje go z produktem, osoba zarządzająca produktem podejmuje decyzję o wykorzystaniu rozwiązania, po drodze pojawiają się jeszcze kwestie prawne, bezpieczeństwa i akceptacji biznesowej. Dopóki wszystko działa, ten podział ról nie budzi większych zastrzeżeń. Problem zaczyna się wtedy, gdy decyzja wsparta przez AI prowadzi do rzeczywistej szkody.
Wtedy odpowiedź „tak zarekomendował system” nie może mieć miejsca. Dodam, że nie jest to hipotetyczna sytuacja. Takie przypadki miały miejsce. W ostatnich latach pojawiły się m.in. spory dotyczące systemów AI wykorzystywanych w rekrutacji, w których jednym z kluczowych pytań stało się to, kto odpowiada za skutki decyzji wspieranych przez technologię, czy dostawca systemu, czy organizacja, która go wykorzystuje.[4]
Dlatego pytanie o odpowiedzialność jest bardzo ważne: kto podejmuje ostateczną decyzję, kto monitoruje działanie rozwiązania i kto ma obowiązek zareagować, kiedy dojdzie do problematycznej sytuacji?
Jedną z fundamentalnych zasad odpowiedzialnego AI jest zachowanie ludzkiej odpowiedzialności za wykorzystanie systemu. UNESCO wprost wskazuje, że AI nie powinno usuwać ostatecznej ludzkiej odpowiedzialności i rozliczalności.
Taka osoba nie musi być ekspertem od modeli językowych, prawa czy etyki. Nie powinna też samodzielnie odpowiadać za wszystkie aspekty Responsible AI.
Natomiast zwróćmy uwagę na to, że osoba odpowiedzialna za produkt znajduje się w szczególnym miejscu, ponieważ na poziomie produktu spotykają się: potrzeby użytkowników, cele biznesowe, możliwości technologiczne, dane, ryzyka, ograniczenia prawne i decyzje.
Dlatego odpowiedzialność osoby zarządzającej produktem nie może kończyć się na pytaniu:
Czy możemy wykorzystać AI do rozwiązania tego problemu?
Powinniśmy również zapytać:
AI zdecydowanie zmienia technologię, jednak nie zwalnia nas z rozumienia problemu, interesariuszy, wartości i konsekwencji podejmowanych decyzji.
Byłoby jednak myśleniem życzeniowym zakładać, że wystarczy mieć „odpowiedzialnego Product Managera”.
Jeżeli organizacja premiuje na przykład szybkość, wzrost przychodów i redukcję kosztów, może być trudno oczekiwać, że pojedyncza osoba zatrzyma realizację funkcjonalności, ponieważ dostrzega problem etyczny. Product Managerowie czy Product Ownerzy są ważnymi, decyzyjnymi osobami, jednak sposób działania organizacji, zarząd, wewnętrzne procesy i procedury, silnie wpływają na to, czy odpowiedzialne praktyki faktycznie występują. Powołam się tutaj na badania przeprowadzone przez UC Berkeley.[5] Badanie obejmowało 25 wywiadów oraz ankietę wśród 300 osób związanych z product managementem; 77% badanych deklarowało brak jasności co do odpowiedzialnego użycia GenAI, a mniej niż jedna piąta miała zachęty związane z odpowiedzialnym wykorzystaniem AI. Organizacyjne wsparcie leadershipu korelowało z częstszym stosowaniem odpowiedzialnych praktyk.
Jeżeli pracownicy nie wiedzą, z których narzędzi GenAI mogą korzystać, odpowiedzialne wykorzystanie danych firmowych czy danych klientów, będzie zagrożone.
Jeżeli nie wiadomo, kto może podjąć decyzję o wdrożeniu systemu wysokiego ryzyka albo gdzie zgłaszać wątpliwości, samo hasło „Responsible AI” niewiele zmieni.
Amerykański Narodowy Instytut Standardów i Technologii (NIST) w AI Risk Management Framework [6] traktuje zarządzanie ryzykiem AI właśnie jako problem całego cyklu życia systemu oraz organizacji, a nie pojedynczej kontroli wykonywanej przed wdrożeniem. Dla generatywnej AI przygotowano dodatkowy profil ryzyka obejmujący specyficzne dla niej zagrożenia i działania zarządcze.
Organizacja potrzebuje więc nie tylko wartości ogólnie przyjętych, lecz również mechanizmów, które pozwalają stosować je w praktyce. Potrzebuje jasnych zasad dotyczących wykorzystania danych. Powinna określić, które zastosowania AI wymagają dodatkowej oceny. Potrzebuje mieć świadomość ograniczeń wykorzystywanych modeli. Powinna zdefiniować możliwość i proces zgłaszania wątpliwości. Potrzebuje monitorowania rezultatów po wdrożeniu i dokonywania ewentualnych zmian.
Jednak potrzebuje przede wszystkim kultury, w której pytanie „czy powinniśmy to robić?” jest traktowane jako część odpowiedzialnego podejmowania decyzji.
Nie każda organizacja potrzebuje od razu rozbudowanego departamentu ds. Etyki AI. Czasem wystarczy zacząć od kilku właściwie postawionych pytań.
Te pytania nie rozwiążą oczywiście wszystkich dylematów. Może jednak posłużyć jako początek rozmowy o etyce, czy to zastosowanych rozwiązań opartych na AI czy też ogólnie o etyce w dostarczanych funkcjonalnościach w produktach.
Rozmowa o etyce bywa traktowana jak próba hamowania technologii.
Odpowiedzialne używanie AI (Responsible AI) nie oznacza rezygnacji z eksperymentowania ani unikania ryzyka. Nie oznacza również, że przed każdą decyzją musimy znaleźć idealną odpowiedź na wszystkie możliwe pytania.[7]
Odpowiedzialna AI oznacza natomiast, że świadomie patrzymy na konsekwencje naszych decyzji, również te, których nie pokazuje bezpośrednio biznesowa miara sukcesu.
AI daje nam ogromne szanse. AI daje nam możliwość tworzenia większej liczby funkcjonalności, a nawet całych produktów, często znacznie szybciej niż było to możliwe wcześniej.
Jednak wraz ze wzrostem naszych możliwości rośnie również znaczenie pytania o to, jak z tych możliwości korzystamy.
Nadal pozostają decyzje, których nie możemy po prostu oddelegować do AI.
Nie chodzi o to, aby przy każdej decyzji produktowej prowadzić filozoficzną debatę ani stworzyć kolejną procedurę, którą trzeba odhaczyć. Warto natomiast stworzyć przestrzeń, w której obok pytań „czy możemy?”, „czy to się opłaca?” i „czy jest to zgodne z prawem?” regularnie pojawią się również pytania „czy powinniśmy?” i „dla kogo?”.
Być może właśnie od tego warto zacząć rozmowę o etyce AI w produkcie i organizacji.
P.S. Artykuł nie został w całości wygenerowany przez AI. Modele generatywnej AI zostały natomiast użyte do sprawdzenia poprawności pisowni, gramatyki, redakcji, propozycji zmian w tekście oraz poszukiwania dodatkowych źródeł i badań nad tematem. Grafika do artykułu najpierw została wygenerowana przez AI z użyciem mojego zdjęcia, a następnie została poddana ręcznemu retuszowi.
[1] https://www.scrum.org/resources/ethics-product-management
[2] https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
[3] https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-transparency-obligations
[5] https://re-ai.berkeley.edu/projects/responsible-use-generative-ai
[6] https://www.nist.gov/itl/ai-risk-management-framework/ai-risk-management-framework-faqs
[7] Przypomnę tylko, że w środowiskach złożonych nie jest możliwe przewidzenie wszystkich przyszłych sytuacji, czy konsekwencji. W tym miejscu odsyłam do mojego artykułu o zarządzaniu ryzykiem w produkcie, gdzie omawiam nieprzewidywalność.