Progress, zaufany dostawca oprogramowania do tworzenia aplikacji i zarządzania infrastrukturą, zaprezentował wyniki globalnego badania „Data Bias: The Hidden Risk of AI” (Zjawisko tendencyjności danych: Ukryte ryzyko w sztucznej inteligencji). Ankieta została przeprowadzona przez niezależną firmę badawczą Insight Avenue na zlecenie Progress, wśród ponad 640 specjalistów z działów biznesowych i IT, na poziomie menedżerskim i wyższym, którzy wykorzystują dane do podejmowania decyzji i używają lub planują używać sztucznej inteligencji (AI) oraz uczenia maszynowego (ML) do wspierania procesu decyzyjnego. Pełny raport znajduje się pod linkiem.
Różnego rodzaju uprzedzenia często są przekazywane poprzez doświadczenia kulturowe i osobiste. Podczas gromadzenia danych oraz wykorzystywania ich do szkolenia modeli uczenia maszynowego, dziedziczone są uprzedzenia osób tworzących te informacje, co daje nieoczekiwane i potencjalnie szkodliwe wyniki. Jednak, pomimo ryzyka wystąpienia pułapek prawnych i finansowych, związanych z obecnością tendencyjności danych, brakuje zrozumienia w zakresie konieczności prowadzenia szkoleń oraz odpowiedniej modyfikacji procesów i mechanizmów przetwarzania informacji, potrzebnych do skutecznego radzenia sobie z tym zjawiskiem.
Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali. Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi.
Z badania dowiadujemy się, że:
- 66% przedsiębiorstw przewiduje, że w najbliższych latach będzie w coraz większym stopniu polegać na podejmowaniu decyzji z wykorzystaniem sztucznej inteligencji i uczenia maszynowego.
- 65% menedżerów uważa, że w ich przedsiębiorstwie występuje obecnie zjawisko tendencyjności danych.
- 77% ankietowanych twierdzi, że w ich firmie powinno się podejmować intensywniejsze działania, aby rozwiązać problem tendencyjności danych.
- 51% badanych uważa, że brak świadomości istnienia zjawiska tendencyjności danych oraz niedocenianie jego negatywnego wpływu będzie stanowił barierę w rozwiązywaniu tego problemu.
– Każdego dnia tendencyjność danych może negatywnie wpływać na działalność biznesową oraz podejmowanie decyzji. Rośnie ryzyko zagrożenia dla bezpieczeństwa i ładu, utraty zaufania klientów, implikacji finansowych oraz potencjalne konsekwencje prawne i etyczne. Dlatego, w ramach strategii stawiania naszych polskich klientów w centrum wszystkiego, co robimy, chcemy zapewnić, że korzystając z narzędzi AI/ML będą oni uzbrojeni w odpowiednie informacje, aby podejmować najlepsze biznesowe decyzje – Niklas Enge, Dyrektor Regionalny Nordics i Polska w firmie Progress.
Zlecone przez Progress badanie „Data Bias: The Hidden Risk of AI” zostało zrealizowane przez Insight Avenue, brytyjską firmę specjalizującą się w badaniach mechanizmów biznesowych. Jego wyniki opracowano na bazie wywiadów przeprowadzonych z profesjonalistami z dziedziny biznesu i IT z Ameryki Północnej i Południowej, Europy i Azji, którzy wykorzystują dane w procesach decyzyjnych. Specjaliści ci pochodzili z przedsiębiorstw zatrudniających ponad 500 pracowników, co pozwoliło lepiej zrozumieć ogólną świadomość zjawiska tendencyjności danych, jego wpływ na prowadzenie biznesu oraz działania podejmowane przez firmy w celu rozwiązania tego problemu. Pełne wyniki badań dostępne są na stronie https://progress.com/papers/data-bias-the-hidden-risk-of-ai.