Co się wydarzyło: sprawa Exdroga i wykorzystanie sztucznej inteligencji
W ostatnich latach czerpanie korzyści ze sztucznej inteligencji (AI) stało się jednym z głównych trendów we współczesnym biznesie. Wiele firm poszukuje sposobów na automatyzację procesów, przyspieszenie przygotowywania dokumentów i osiągnięcie realnych oszczędności dzięki wykorzystaniu AI. Jednak przypadek Exdrogu , małopolskiej firmy budowlanej, pokazuje, że bez odpowiedniego nadzoru i procedur weryfikacji danych, czerpanie korzyści ze sztucznej inteligencji może prowadzić do poważnych komplikacji. Zespół analityczny zwraca uwagę, że podobne problemy wystąpiły również w innych projektach, w których systemy AI generowały harmonogramy lub raporty pełne błędów.

W 2025 roku Exdrog stracił kontrakt, co natychmiast dowodzi, że nieumiejętne i nieopłacalne wykorzystanie sztucznej inteligencji (AI) może generować znaczne koszty biznesowe. AI została wdrożona w celu przyspieszenia przygotowywania dokumentacji przetargowej i obniżenia kosztów operacyjnych. Jednak w praktyce pojawiło się istotne ryzyko: AI generowała dane, które pozornie wydawały się poprawne, ale zawierały fundamentalne błędy – brak procedur, błędne interpretacje przepisów i częściowo niedokładne harmonogramy. Specjaliści z branży kreatywnej wielokrotnie zauważyli, że chociaż AI może skrócić drogę do rezultatu, nie zawsze gwarantuje jego wiarygodność.
Początkowo pracownicy Exdrog docenili szybkość, z jaką algorytmy generowały dokumenty, postrzegając to jako przykład tego, jak automatyzacja może usprawnić pracę biurową. Jednak bardziej szczegółowa analiza dokumentów ujawniła liczne błędy. Podczas oceny ofert przez komisję przetargową ujawniono klasyczne złudzenia dotyczące sztucznej inteligencji : dane, które wydawały się profesjonalne, ale były niedokładne. Zespół redakcyjny zwraca uwagę, że ryzyko związane z wykorzystaniem sztucznej inteligencji w biznesie jest nadal realne, zwłaszcza w przypadku dokumentów urzędowych, gdzie błędy mogą prowadzić do dyskwalifikacji z przetargu lub odpowiedzialności prawnej.
Sprawa Exdrog pokazuje, że nawet najbardziej zaawansowane narzędzia wymagają starannego nadzoru. Chociaż sztuczna inteligencja może przyspieszać procesy i zwiększać rentowność , bez rzetelnej analizy due diligence łatwo ponieść straty finansowe, narazić się na utratę reputacji i narazić na ryzyko prawne. Eksperci podkreślają, że sztuczna inteligencja w biznesie powinna pełnić rolę wspierającą, a nie zastępować ekspertów w przygotowywaniu dokumentacji przetargowej czy przeprowadzaniu analiz technicznych.
W poniższym rozdziale omówiono wpływ „halucynacji AI” na dokumentację Exdrog, konsekwencje regulacyjne oraz wnioski dla firm planujących wdrożenie AI w swojej działalności. Dla organizacji zainteresowanych czerpaniem zysków z AI stanowi to ważne ostrzeżenie.
Szczegóły przetargu i oferty
Przetarg dotyczył modernizacji dróg wojewódzkich w województwie małopolskim, a kompletna dokumentacja liczyła około 280-300 stron. Zespół redakcyjny przeanalizował, w jaki sposób Exdrog wykorzystał sztuczną inteligencję do generowania uzasadnień kosztów, opisów technologicznych, harmonogramów i odpowiedzi na pytania komisji przetargowej.
Początkowo wdrożenie postrzegano jako przykład efektywnej rentowności sztucznej inteligencji (AI) . Jednak wkrótce pojawiły się iluzje dotyczące AI – błędy polegające na tworzeniu pozornie wiarygodnych, ale niedokładnych informacji. Błędy te obejmowały nieistniejące interpretacje przepisów, nieprawidłowe dane techniczne i błędne obliczenia w danych.
Wyjaśnienie zagrożeń związanych z wykorzystaniem sztucznej inteligencji
Poniższa tabela przedstawia główne obszary, w których sztuczna inteligencja może generować błędy podczas przygotowywania dokumentacji przetargowej. Dane te stanowią syntezę problemów zgłaszanych w doniesieniach medialnych:
| Pole dokumentu | Rodzaj problemu, jaki stwarza sztuczna inteligencja | Przykład raportów | Ryzyko dla firmy |
|---|---|---|---|
| Interpretacje techniczne | Niezweryfikowane lub nieistniejące dane | Sztuczna inteligencja zidentyfikowała technologie i procedury, które nie są zgodne ze standardami. | Wykluczenie z przetargu przez KIO |
| Kosztorysy i harmonogramy | Fałszywe zagregowane dane | Sztuczna inteligencja wygenerowała informacje o kosztach i czasie potrzebnym na wdrożenie, które nie odpowiadają rzeczywistości. | Ryzyko finansowe i reputacja |
| Interpretacja przepisów | Halucynacje sztucznej inteligencji – fałszywe prawa czy interpretacje | Sztuczna inteligencja została oparta na nieistniejących interpretacjach podatkowych i prawnych. | Ryzyko prawne i utrata kontraktu |
Ten przykład pokazuje, że Exdrog przegrał kontrakt na AI nie z powodu braku wiedzy technicznej, ale raczej z powodu niewystarczającej weryfikacji danych generowanych przez jego systemy AI. To ważna lekcja dla firm planujących wykorzystanie AI w dokumentach przetargowych i innych procesach wymagających wysokiej wiarygodności danych.
Zjawisko „halucynacji sztucznej inteligencji” i jakie niesie ze sobą zagrożenia
Kiedy Exdrog zdecydował się na wykorzystanie sztucznej inteligencji (AI) do przygotowania dokumentacji przetargowej, eksperci branżowi zwrócili uwagę na potencjał szybkiej rentowności AI . Narzędzia oparte na AI umożliwiły tworzenie kompleksowych wyjaśnień technicznych, harmonogramów i kosztorysów w znacznie krótszym czasie niż w przypadku tradycyjnego zespołu. Jednak w praktyce pojawiło się zjawisko typowe dla wielu zastosowań AI w biznesie – tzw. halucynacje AI.
Czym są halucynacje AI?
Termin „halucynacje AI” odnosi się do sytuacji, w których system AI generuje informacje, które wydają się wiarygodne, ale w rzeczywistości są niezgodne z rzeczywistością. Nie jest to klasyczny błąd techniczny – model lingwistyczny nie ma świadomości i dlatego „nie wie”, że jest błędny. Tworzy treści w oparciu o wzorce z danych treningowych, łącząc je w pozornie logiczny, ale obiektywnie niepoprawny sposób.
W analizowanym przypadku firmy Exdrog, sztuczna inteligencja generowała harmonogramy, dane dotyczące kosztów i wyjaśnienia techniczne, które wydawały się profesjonalne, ale mogły wprowadzać w błąd komisję przetargową. Według dostępnych raportów, pojawiły się dane dotyczące technologii, procedur i interpretacji przepisów, których nie było w żadnych obowiązujących normach. Komisja stwierdziła nieprawidłowości, które doprowadziły do wykluczenia firmy z postępowania przez KIO. Ten incydent uwypukla istotne ryzyko związane z wykorzystaniem sztucznej inteligencji w biznesie , szczególnie w obszarach wymagających wysokiej precyzji.
Przykłady problemów z dokumentami
Na podstawie analiz branżowych i obserwacji ekspertów można stwierdzić, że halucynacje wywołane przez sztuczną inteligencję mogą przybierać różne formy, w tym:
- Nieprawidłowe dane liczbowe: Sztuczna inteligencja generuje harmonogramy lub kosztorysy, które wydają się jasne i profesjonalne, ale różnią się od rzeczywistych założeń projektu. W dokumentacji Exdrog dotyczy to między innymi niedoszacowania lub przeszacowania czasu realizacji poszczególnych etapów robót drogowych.
- Nieistniejące procedury lub techniki: Systemy AI potrafią identyfikować metody wdrożenia lub materiały, które nie zostały zatwierdzone zgodnie z obowiązującymi normami technicznymi. Dokumentacja Exdrog zawierała sugestie dotyczące wykorzystania technologii, które nie były dostępne na rynku lokalnym lub zatwierdzone w Polsce.
- Błędne interpretacje przepisów: Sztuczna inteligencja potrafi generować dane przypominające profesjonalne analizy prawne, ale oparte na nieistniejących interpretacjach podatkowych lub standardach branżowych. W przypadku Exdrogu obecność takich treści była jednym z powodów wykluczenia z przetargu.
Zestawienie tych przykładów podkreśla, że choć sztuczna inteligencja może wspierać działalność biznesową, każda firma planująca czerpać zyski z AI musi wziąć pod uwagę ryzyko jej niewłaściwego wykorzystania oraz konieczność weryfikacji danych przez specjalistów. AI nie zastępuje ludzi w roli odpowiedzialnych recenzentów treści technicznych i oficjalnych.
Dlaczego ryzyko jest tak wysokie?
Zjawisko halucynacji AI nie ogranicza się do przetargów ani branży budowlanej. Każdy proces, w którym narzędzie AI generuje treści wymagające wysokiego poziomu dokładności lub wiedzy prawniczej lub technicznej, jest podatny na podobne błędy. Z punktu widzenia regulacji oznacza to:
- Potencjalne straty finansowe wynikające z wykorzystania nieprawidłowych danych.
- Ryzyko prawne w kontaktach z kontrahentami i instytucjami.
- Poważne zagrożenie dla reputacji w przypadku ujawnienia błędów.
- Należy wdrożyć dodatkowe procedury weryfikacyjne.
Studium przypadku Exdrog sugeruje, że sztuczna inteligencja w biznesie powinna być traktowana jako wsparcie, a nie jako niezależne źródło absolutnie pewnych i wiarygodnych informacji. Halucynacje związane ze sztuczną inteligencją podkreślają wagę ludzkiego nadzoru i procesów kontroli.
Krótko mówiąc, zjawisko halucynacji AI jest jednym z największych wyzwań stojących przed firmami wdrażającymi rozwiązania oparte na AI . Dokumenty generowane przez algorytmy mogą wydawać się profesjonalne, ale bez odpowiedniego nadzoru mogą narazić organizacje na poważne ryzyko. W przypadku Exdroga konsekwencje były poważne – utrata kontraktów i spadek zaufania rynku. Z perspektywy redakcyjnej wnioski są jednoznaczne: AI wymaga odpowiedzialnego nadzoru.
Konsekwencje dla firmy i rynku
Utrata kontraktu przez Exdrog stała się jaskrawym przykładem tego, jak niewłaściwe wykorzystanie sztucznej inteligencji (AI) może prowadzić do poważnych konsekwencji biznesowych. Decyzja o wykorzystaniu AI w biznesie miała na celu przyspieszenie dokumentacji i zwiększenie rentowności , ale w praktyce ujawniły się typowe ryzyka związane z automatyzacją. System AI generował dane, które wydawały się wiarygodne, ale zawierały błędy rzeczowe w harmonogramach, kosztorysach i interpretacjach przepisów. Komisja przetargowa natychmiast zidentyfikowała te błędy, dyskwalifikując Exdrog z procesu. Eksperci technologiczni podkreślają, że ryzyko związane z wykorzystaniem AI w biznesie jest realne, a niewłaściwe wdrożenie może skutkować utratą kontraktów, stratami finansowymi i uszczerbkiem na reputacji.
Co więcej, eksperci analizujący sprawę podkreślają, że incydent z Exdrog wpisuje się w szerszy trend obserwowany na rynku. Wiele firm wdrażających narzędzia AI nie posiada procedur bezpieczeństwa, protokołów weryfikacji danych ani standardów odpowiedzialnego korzystania z automatyzacji. W konsekwencji nawet sprawnie funkcjonujące firmy mogą narazić się na błędy wynikające nie z celowych działań, ale z braku świadomości ograniczeń technologii. W praktyce oznacza to konieczność stopniowego opracowywania nowych standardów jakości, audytu i rozliczalności – gwarantujących, że AI będzie wspierać istniejące procesy i nie będzie generować dodatkowych ryzyk operacyjnych i finansowych.
Wykluczenie z przetargu
Najszybszą konsekwencją było wykluczenie Exdrogu z przetargu przez Krajową Izbę Odwoławczą (KIO). Komisja stwierdziła, że część danych zawartych w dokumentach była nieprawdziwa lub niemożliwa do zweryfikowania, co zgodnie z ustawą o zamówieniach publicznych stanowiło jednoznaczną podstawę do wykluczenia. W praktyce oznaczało to utratę kontraktu o wartości około 15.5 mln zł – projektu, który mógł znacząco wpłynąć na przychody i rozwój firmy.
Decyzja KIO była jednoznaczna: brak weryfikacji danych generowanych przez sztuczną inteligencję nie usprawiedliwia błędów. Nawet jeśli narzędzia oparte na sztucznej inteligencji przyspieszają tworzenie dokumentów, odpowiedzialność za ich poprawność spoczywa na wykonawcy. W przypadku Exdroga innowacyjne metody pracy okazały się niewystarczające, aby spełnić wymogi formalne.
Ryzyko prawne i reputacja
Utrata kontraktu to tylko część konsekwencji. Analitycy wskazują również na poważne ryzyko prawne i wizerunkowe . Interpretacje sztucznej inteligencji, odwołujące się do nieistniejących przepisów, mogą być interpretowane jako wprowadzające w błąd instytucje publiczne. W skrajnych przypadkach takie sytuacje mogą prowadzić do dalszych działań prawnych, kar finansowych lub konieczności złożenia wyjaśnień organom regulacyjnym.
Istotne są również implikacje dla wizerunku firmy. Informacje o błędach w dokumentach Exdrogu generowanych przez sztuczną inteligencję pojawiły się w specjalistycznych mediach, takich jak Business Insider i Puls Biznesu. Dla kontrahentów i inwestorów oznacza to, że firma może mieć trudności z rzetelną weryfikacją danych, nawet przy użyciu zaawansowanych narzędzi technologicznych. W praktyce przekłada się to na zwiększoną ostrożność w przyszłych negocjacjach biznesowych i potencjalne trudności w pozyskiwaniu nowych kontraktów.
W szerszym kontekście rynkowym, sprawa Exdrog podkreśla, że ryzyko związane z wykorzystaniem sztucznej inteligencji w biznesie dotyka każdą firmę, która wykorzystuje sztuczną inteligencję do tworzenia oficjalnych dokumentów, analiz finansowych czy harmonogramów projektów. Powtarzające się błędy mogą prowadzić do dodatkowego nadzoru ze strony regulatorów branżowych, wzrostu kosztów operacyjnych i wydłużenia procesów decyzyjnych w całej branży.
Długoterminowe skutki Exdrogu
Dla samej firmy konsekwencje są wielowymiarowe:
- Finanse: Utrata kontraktu i brak dochodów z dużego projektu.
- reputacja: Informacje o błędach sztucznej inteligencji dotarły do mediów, co wpłynęło na zaufanie klientów i partnerów.
- Operacyjny: Konieczność wdrożenia procedur kontroli i audytu danych sztucznej inteligencji,
- Prawny: Ryzyko roszczeń lub konieczność wyjaśnienia procesu w przyszłych przetargach.
To jasny sygnał dla rynku: sztuczna inteligencja w biznesie to potężne narzędzie, ale wymaga odpowiedzialności, nadzoru i weryfikacji. Brak nadzoru może prowadzić do poważnych szkód finansowych, prawnych i wizerunkowych.
Lekcje dla firm: Jak bezpiecznie wykorzystywać sztuczną inteligencję w biznesie
Sprawa Exdrog stanowi cenny przykład do analizy dla ekspertów. Pokazuje ona, że choć rentowność sztucznej inteligencji i jej powszechne zastosowanie w biznesie mogą przynieść znaczące korzyści, nieumiejętne wdrożenie tej technologii może prowadzić do poważnych konsekwencji. Nawet najbardziej zaawansowane systemy nie zastąpią nadzoru człowieka, procedur weryfikacji i kontroli jakości danych. Firmy wdrażające sztuczną inteligencję w oficjalnych dokumentach, ofertach przetargowych i analityce biznesowej muszą brać pod uwagę typowe zagrożenia: niedokładne dane, błędną interpretację przepisów i niepełne harmonogramy.
W przypadku Exdroga, zastosowanie sztucznej inteligencji rzeczywiście przyspieszyło przygotowywanie dokumentów, ale jednocześnie ujawniło istotne braki w procesach nadzoru. Zespół firmy, jak wskazują analitycy, stosunkowo szybko zdał sobie sprawę, że generowane wyjaśnienia, kosztorysy i harmonogramy wymagają rygorystycznej weryfikacji przez człowieka. Brak tej weryfikacji doprowadził do utraty kontraktu. Lekcja jest zatem oczywista: sztuczna inteligencja może wspierać szybką rentowność , ale tylko w połączeniu z nadzorem ludzkim, audytem danych i odpowiednimi środkami bezpieczeństwa.
Audyt i weryfikacja danych AI
Podstawą bezpiecznego korzystania z narzędzi AI jest audyt i weryfikacja generowanych przez nie danych . Każda informacja wykorzystywana w procesach decyzyjnych musi zostać zweryfikowana przez wykwalifikowanego specjalistę. W praktyce oznacza to między innymi:
- Kontrolowanie szacunków kosztów, harmonogramów i interpretacji technicznych,
- Weryfikacja źródeł i standardów, do których odwołuje się sztuczna inteligencja,
- Przeprowadzaj regularne testy systemów sztucznej inteligencji w celu wykrycia błędów, halucynacji i niezgodności z przepisami.
Dzięki temu sztuczna inteligencja może wspierać automatyzację procesów, redukując jednocześnie ryzyko błędów, które prowadzą do wykluczenia z przetargów, utraty reputacji lub dodatkowych audytów regulacyjnych.
Odpowiedzialność człowieka kontra sztuczna inteligencja
Praktyka branżowa jasno pokazuje, że sztuczna inteligencja (AI) jest narzędziem wspomagającym, a nie zastępującym pracę człowieka. Każdy projekt, umowa lub dokument oficjalny stworzony z wykorzystaniem AI musi przejść ręczną weryfikację. To jedyny skuteczny sposób na minimalizację ryzyka, zapewnienie zgodności z przepisami i bezpieczne wykorzystanie potencjału AI w biznesie.
Zasady odpowiedzialnego korzystania ze sztucznej inteligencji
Pracując z technologią sztucznej inteligencji (AI), często panuje przekonanie, że narzędzia te to magiczna droga na skróty do sukcesu. Jednak studia przypadków firm takich jak Exdrog pokazują , że wyraźne oddzielenie odpowiedzialności człowieka od AI jest kluczowe. AI należy traktować wyłącznie jako pomoc , a każda decyzja oparta na danych generowanych przez AI wymaga weryfikacji przez specjalistę. Regularne przeglądanie generowanych treści zmniejsza ryzyko związane z iluzjami generowanymi przez AI i nieprawdziwymi informacjami, które mogłyby wprowadzić decydentów w błąd.
Zastosowanie tego podejścia pozwala na:
- Ograniczanie ryzyka prawnego i finansowego,
- Wzrost zaufania klientów i kontrahentów,
- Utrzymywanie reputacji w przypadku inspekcji lub audytów,
- Efektywne wykorzystanie sztucznej inteligencji przy jednoczesnym zachowaniu pełnej kontroli nad operacjami.
- Identyfikacja potencjalnych błędów zanim wpłyną na wyniki przetargów lub projektów.
Procedury kontrolne
Przedsiębiorstwa muszą wdrożyć procedury kontroli obejmujące między innymi:
- Listy kontrolne do weryfikacji danych generowanych przez sztuczną inteligencję,
- Sprawdzanie jakości informacji przed wysłaniem dokumentów do klientów lub instytucji publicznych.
- Szkolenie pracowników w zakresie rozpoznawania halucynacji AI i krytycznej analizy wyników systemów AI.
Procedury te pozwalają zmaksymalizować korzyści płynące ze sztucznej inteligencji, takie jak oszczędność czasu i zasobów, przy jednoczesnym ograniczeniu ryzyka kosztownych błędów, co ma miejsce w przypadku Exdrog.
Kultura odpowiedzialnego korzystania ze sztucznej inteligencji
Najważniejszą lekcją płynącą z historii Exdroga jest potrzeba budowania kultury odpowiedzialnego korzystania ze sztucznej inteligencji . Sztuczną inteligencję należy traktować jako partnera technologicznego, a nie magiczną drogę na skróty do sukcesu. Kluczowe elementy tej kultury to:
- Świadomość możliwości i ograniczeń sztucznej inteligencji,
- Regularne monitorowanie wyników systemów sztucznej inteligencji,
- Procedury eskalacji w przypadku wykrycia błędów.
- Plany awaryjne na wypadek nieprawidłowych danych lub błędnej analizy.
Przypadek Exdroga pokazuje, że ryzyko związane z wykorzystaniem sztucznej inteligencji w biznesie jest realne. Połączenie automatyzacji, nadzoru człowieka i rozliczalności pozwala na wykorzystanie sztucznej inteligencji jako wsparcia, a nie źródła kosztownych błędów.
Podsumowując: Sztuczna inteligencja jest narzędziem, a nie skrótem do sukcesu.
Historia Exdroga ilustruje kluczowe znaczenie odpowiedzialnego wdrażania sztucznej inteligencji w biznesie. Nawet najbardziej zaawansowane systemy nie zastąpią ludzkiego nadzoru, wiedzy i procedur bezpieczeństwa. Sztuczna inteligencja może przyspieszać procesy, generować raporty i analizować dane, ale bez weryfikacji i kontroli jej wykorzystanie wiąże się ze znacznym ryzykiem.
Najważniejsze wnioski dla organizacji są następujące:
- Sztuczna inteligencja nie jest nieomylna: Halucynacje wywołane przez sztuczną inteligencję mogą generować dane, które wydają się wiarygodne, ale w rzeczywistości są fałszywe, co może mieć poważne konsekwencje w oficjalnych dokumentach.
- Nadzór człowieka jest niezbędny: Każda informacja wygenerowana przez sztuczną inteligencję musi zostać sprawdzona i zatwierdzona przez człowieka.
- Ryzyko finansowe i reputacyjne jest realne: Brak kontroli nad treściami AI może prowadzić do utraty kontraktów, strat finansowych i spadku zaufania partnerów biznesowych.
- Procedury i procesy audytowe zmniejszają ryzyko: Listy kontrolne, audyty i szkolenia pozwalają na bezpieczne wykorzystanie sztucznej inteligencji i maksymalizację korzyści.
W praktyce oznacza to, że sztuczną inteligencję należy traktować wyłącznie jako narzędzie . Firmy, które zakładają, że samo wdrożenie technologii zwiększy wydajność i zyski, ryzykują poważne konsekwencje, jak w przypadku Exdrogu. Połączenie potencjału sztucznej inteligencji z odpowiedzialnością, nadzorem i wiedzą specjalistyczną pozwala na osiągnięcie realnych korzyści bez narażania reputacji i stabilności finansowej.
Krótko mówiąc, ryzyko związane z wykorzystaniem sztucznej inteligencji w biznesie jest realne, ale przy odpowiednim podejściu można je zminimalizować. Świadomość ograniczeń systemu oraz znaczenia nadzoru i weryfikacji ze strony człowieka są kluczowe. Sztuczna inteligencja nie zastąpi człowieka, ale może stać się niezbędnym wsparciem procesów biznesowych, umożliwiając rozwój oparty na sztucznej inteligencji w bezpieczny i efektywny sposób.
Sprawa Exdrog wyciąga ważną lekcję: technologia jest potężna, ale ludzka odpowiedzialność i kompetencje pozostają kluczowe w procesach biznesowych, dokumentacji i przetargach.
Porady ekspertów
Redakcja, wspierana przez ekspertów z dziedziny sztucznej inteligencji, prawa i audytu technologicznego, zwraca uwagę, że sprawa Exdroga stanowi istotne ostrzeżenie: wykorzystanie generatywnej sztucznej inteligencji w dokumentach biznesowych i przetargach wymaga rygorystycznej weryfikacji. Błąd w weryfikacji może mieć poważne konsekwencje.
Puls Biznesu i Krajowa Izba Odwoławcza poinformowały, że Exdrog złożył 280-stronicowe wyjaśnienie w sprawie przetargu, w którym sztuczna inteligencja generowała m.in. fikcyjne interpretacje podatkowe. Krajowa Izba Odwoławcza stwierdziła, że spółka „nie zweryfikowała informacji generowanych przez sztuczną inteligencję i przekazała zamawiającemu informacje wprowadzające w błąd”. ( Puls Biznesu/KIO )
Eksperci techniczni ostrzegają, że generatywna sztuczna inteligencja, szczególnie w kontekście dokumentów urzędowych, może powodować tzw. „halucynacje” – treści, które wydają się przekonujące, ale nie są oparte na faktach. Według raportu NeuralTrust, błędy te stanowią poważne zagrożenie dla reputacji i prawa firm. ( NeuralTrust – ryzyko biznesowe związane z halucynacjami )
- Zawsze sprawdzaj treści generowane przez sztuczną inteligencję: Zwłaszcza w dokumentach oficjalnych, finansowych czy przetargowych – nie można zakładać, że sztuczna inteligencja działa bez zarzutu.
- Przedstaw procedury audytu AI: Wykorzystuje mechanizmy „human-in-the-loop”, dzięki którym człowiek weryfikuje kluczowe części tworzone przez sztuczną inteligencję.
- Ustanowienie polityki odpowiedzialnego korzystania ze sztucznej inteligencji: Określ, kiedy możesz polegać na sztucznej inteligencji, a kiedy konieczna jest pełna ręczna weryfikacja.
Rekomendacja redaktorów dla przedsiębiorców i wykonawców przetargów jest jednoznaczna: wykorzystanie sztucznej inteligencji może przynieść przewagę, ale wymaga ostrożności, struktury i nadzoru – w przeciwnym razie koszty błędów mogą być bardzo wysokie.







