Najbardziej szalona halucynacja AI, jaką kiedykolwiek widziałem

Ostatnie dni przyniosły kilka dość trudnych i wymagających tematów (Nano Dimension, Desktop Metal, voxeljet), więc dziś – dla odmiany – postanowiłem podzielić się czymś innym. Równie interesującym, ale znacznie lżejszym (także dla mnie).

Historia, którą zaraz opowiem, wydarzyła się dwa tygodnie temu, ale zachowałem ją właśnie na taką okazję.

To opowieść o najbardziej szalonej, a jednocześnie najbardziej wyrafinowanej halucynacji AI, jaką do tej pory widziałem. Jej autorem był Grok – sztuczna inteligencja stworzona przez X (firmę Elona Muska).

Pozwólcie, że zacznę od tego stwierdzenia:

Nigdy nie ufaj temu, co pisze AI.
AI ma halucynacje.
AI kłamie.

No cóż, każdy w zasadzie to wie, ale większość ludzi po prostu to bagatelizuje. Od czasu do czasu wszyscy damy się wprowadzić w błąd przez AI, ale zwykle to coś drobnego.

Osobiście używam AI do dwóch rzeczy: researchu (który potem dokładnie weryfikuję) i tłumaczeń.

I tak, dwa tygodnie temu, przygotowując artykuł historyczny o nieistniejącym już portalu 3ders.org, poprosiłem Groka o podsumowanie najważniejszych informacji na ten temat.

Żeby było jasne – znam tę historię bardzo dobrze i już rok temu opisywałem ją dla VoxelMatters. Powiedzmy, że zapytałem Groka z przyzwyczajenia – żeby raz jeszcze przejść przez kluczowe fakty… albo może po to, żeby sprawdzić, czy nie przeoczyłem czegoś istotnego.

I faktycznie – Grok coś znalazł.

W 2019 roku pojawiły się informacje, że 3ders.org został przejęty przez większy portal 3D Printing Media Network, który kontynuuje niektóre z jego funkcji, ale pod inną marką i z innym zespołem redakcyjnym.

3D Printing Media Network to dawna nazwa VoxelMatters. Znam jej założyciela, Davide’a Shera, bardzo dobrze i nie tylko nie przejął on 3ders.org — jestem niemal pewien, że nigdy nawet nie miał takiego zamiaru (choć Davide może to potwierdzić osobiście).

Poprosiłem o weryfikację i potwierdzenie. Grok odpowiedział:

Ostatni artykuł pojawił się na stronie 22 kwietnia 2019 roku, co oznaczało faktyczne zakończenie jego działalności jako aktywnego medium. W maju 2019 roku portal został przejęty przez 3D Printing Media Network, co formalnie zakończyło jego istnienie jako niezależnego serwisu.

Zapytałem więc Groka, skąd wziął te informacje?

Informacja o przejęciu portalu 3ders.org przez 3D Printing Media Network w maju 2019 roku pochodzi z artykułu na stronie Centrum Druku 3D: „Zawirowania w druku 3D/AM w czwartym kwartale 2019 r.”, opublikowanego 26 kwietnia 2020 roku, autorstwa Pawła Ślusarczyka.

W artykule wspomniano, że 3ders.org zakończył działalność jako niezależny serwis po przejęciu przez 3D Printing Media Network, co miało miejsce w maju 2019 roku.

A teraz uwaga! Grok nie ma pojęcia, że jestem Pawłem Ślusarczykiem!

Byłem zalogowany do systemu z innego, anonimowego konta. To oznacza, że nie wie również, iż jestem założycielem i byłym właścicielem Centrum Druku 3D. Poprosiłem o bezpośredni link.

Dokładny link do źródła to: https://polskiprzemysl.com.pl/druk-3d/zawirowania-w-druku-3d-am-w-czwartym-kwartale-2019-r/

Dosłowny cytat dotyczący przejęcia 3ders.org: „W maju 2019 r. jeden z najstarszych portali poświęconych technologiom przyrostowym – 3ders.org, został przejęty przez 3D Printing Media Network, kończąc tym samym działalność jako niezależny serwis.”

Link prowadzi do zupełnie innej strony internetowej, z którą nie miałem żadnego kontaktu. A gdy się na nią kliknie, okazuje się, że jest martwa. Gdy poinformowałem o tym Groka, przeprosił i podał nowy link:

Informacja o przejęciu 3ders.org przez 3D Printing Media Network w maju 2019 roku pochodzi z artykułu na stronie Centrum Druku 3D (cd3d.pl), a nie z portalu polskiprzemysl.com.pl. Dokładne źródło to: „3Ders.org znika z rynku po przejęciu przez 3D Printing Media Network”, opublikowany na cd3d.pl w dniu 22 maja 2019 roku, autorstwa Pawła Ślusarczyka.

Link do artykułu: https://centrumdruku3d.pl/3ders-org-znika-z-rynku-po-przejeciu-przez-3d-printing-media-network/

Dosłowny cytat z artykułu: „W maju 2019 r. jeden z najstarszych portali internetowych poświęconych technologiom druku 3D – 3ders.org, został przejęty przez 3D Printing Media Network. Tym samym, po ponad 8 latach działalności, serwis zakończył funkcjonowanie jako niezależny podmiot.”

Chyba nie muszę mówić, że ten link też niedziała — bo nigdy nie napisałem takiego artykułu…

W końcu, gdy naciskałem Groka i zacząłem wskazywać jego wymysły jeden po drugim, przyznał się do błędu:

Błąd w mojej wcześniejszej odpowiedzi wynikał z nieprawidłowego przypisania informacji o przejęciu do artykułu na stronie cd3d.pl, który nigdy nie istniał. Po dalszej weryfikacji okazuje się, że informacja o rzekomym przejęciu 3ders.org przez 3D Printing Media Network mogła pochodzić z niepotwierdzonych źródeł lub błędnych interpretacji w innych publikacjach, które nie zostały zweryfikowane.

Na przykład, niektóre źródła, takie jak artykuł na VoxelMatters z 1 listopada 2024 roku, opisują upadek 3ders.org, ale również nie wspominają o przejęciu przez 3D Printing Media Network, koncentrując się na problemach redakcyjnych i spadku aktywności.

Brak jednoznacznych dowodów na przejęcie w wiarygodnych źródłach wskazuje, że taka transakcja najprawdopodobniej nie miała miejsca.

Także tak… Nie ufajcie AI. NIGDY.

I nie mam na myśli tylko Groka. ChatGPT i niesławny DeepSeek też popełniają błędy.

Co się wydarzyło tego dnia w historii branży druku 3D?

05-05-2016: Olaf Diegel zaprezentował Heavy Metal – pierwszą na świecie gitarę wydrukowaną w technologii 3D z aluminium.

Newsy & Plotki:

  1. Velo3D nawiązało współpracę z Ohio Ordnance Works (OOW) w celu wsparcia rozwoju wojskowej broni drukowanej w 3D. Dzięki platformie Rapid Production Solutions, Velo3D zapewni usługi inżynierii aplikacyjnej, projektowania addytywnego, doboru materiałów oraz testowania części. Celem jest optymalizacja komponentów OOW pod kątem druku 3D, poprawa ich wydajności i przyspieszenie produkcji.
  2. Firma Ursa Major zdobyła kontrakt o wartości 28,6 miliona dolarów od Laboratorium Badawczego Sił Powietrznych USA na rozwój silnika Draper, wytwarzanego z wykorzystaniem technologii addytywnej. Umowa obejmuje integrację i testy w locie do 2027 roku. Draper jest przeznaczony do zastosowań hipersonicznych i wpisuje się w priorytety obrony narodowej, takie jak inicjatywa obrony przeciwrakietowej „Złota Kopuła”.
  3. 3D Spark pozyskało 2 miliony euro w rundzie finansowania zalążkowego na rozwój swojej platformy opartej na sztucznej inteligencji, przeznaczonej dla przemysłowej produkcji i zaopatrzenia. Startup z Hamburga dąży do usprawnienia podejmowania decyzji w zakresie projektowania, produkcji i zakupów. Przy wsparciu inwestorów Triplefair, FTTF i IFH, środki zostaną przeznaczone na rozwój technologii oraz powiększenie zespołu w całej Europie.

Artykuł został oryginalnie opublikowany na The 3D Printing Journal: The Atomic Layers: S10E5 (00272)

Przewijanie do góry