Im więcej korzystam z DeepSeek, tym więcej zagrożeń i wad w nim widzę [OPINIA]

Końcówka stycznia w świecie nowych technologii upływa pod jednym hasłem. DeepSeek. Choć chiński startup nie wziął się znikąd, a w sferze sztucznej inteligencji już jego poprzednie modele (V2 i V3 zwłaszcza) przebijały się w dyskursie, dopiero teraz robi się o nim naprawdę głośno.

Ekscytacja, która narasta, miejscami wydaje się jednak lekko… nieuzasadniona. Wychodzi to jednak na jaw dopiero wtedy, gdy z modelu DeepThink (R1) faktycznie zacznie się korzystać.

Do czego używasz AI?

Sposób wykorzystania sztucznej inteligencji w codziennej pracy różni się w zależności od tego, kogo o to zapytam. Cześć osób używa jej do uproszczenia procesu tworzenia kodu. Jedni próbują w ten sposób pozyskać informacje i wiedzę na tematy, które ich akurat zainteresowały. Inni przetwarzają z jego pomocą duże zakresy danych.

Jest też szereg osób, czepiących z rozmów z AI inspiracje, a kolejne wręcz wprost wykorzystują dobrodziejstwa generatywnej sztucznej inteligencji do tworzenia treści audiowizualnych, jak i tych tekstowych. Bez względu na to, do której grupy się zaliczacie – narastająca wojna między zachodnim oraz chińskim AI, prędzej czy później was dotknie.

Chiński DeepSeek szczyci się tym, że model wytrenował stosunkowo niskim kosztem, a do tego udostępnia go na zasadach open source. Oba te czynniki są zaprzeczeniem tego, co reprezentuje sobą OpenAI i inne zachodnie firmy.

Gdy większość osób słyszy o open source… z automatu zapala im się z tyłu głowy lampka, który nakazuje bezkrytycznie klaskać. W tym miejscu, krótko jedynie, bo to temat na osobny materiał, zwrócę uwagę na pewne rozróżnienie – model można pobrać w ramach open source, ale już formuła, w której go trenowano, tak publicznie otwarta nie jest.

DeepSeek działa dobrze… i nie interesuj się czemu

Dlaczego to istotne? Bo choć Chińczycy twierdzą, że dokonali cudów za kwoty kilkadziesiąt razy mniejsze niż Zachód to… nie mamy na to żadnych dowodów.

Wszystkie nagłówki i doniesienia, które do tej pory widzieliście, oparte są na raporcie przygotowanym przez samych Chińczyków. Co jasne, tym zależy na budowaniu takiej, a nie innej narracji, szkodzącej oczywiście zachodnim konkurentom.

Rzeczywistość może być jednak inna. W środowisku naukowym zwraca się na to uwagę już od dłuższego czasu – Chiny oficjalnie nie mogą mieć szerokiego dostępu do chipów i technologii, która pozwala na przełomy zarezerwowane do tej pory dla amerykańskich firm.

A skoro oficjalnie nie mogą, a jednak tych przełomów niby dokonują… to jedną z nasuwających się konkluzji jest to, że Państwo Środka pozyskało je w sposób niekoniecznie legalny. I w dokumentacji zwyczajnie ich nie wykazują.

W praktyce DeepSeek i jego modele mogą w trenowaniu wcale nie być tak kosztowo przełomowe, jak twierdzą jego twórcy. Może wypadać w testach świetnie, tego nie kwestionuje. Jednak ścieżka dojścia do takiego, a nie innego efektu budzi poważne wątpliwości co do prawdomówności chińskiego podmiotu.

Ale to jeszcze nie wszystko.

Stawka w wojnie AI jest wysoka

To, że Chiny w wyścigu AI nie zamierzają grać czysto, w końcu nikogo zaskakiwać nie powinno. A walka, która od dwóch lat trwa, z każdym kolejnym miesiącem będzie coraz brutalniejsza, bo i stawka jest szalenie wysoka.

DeepSeek jest jednak ciekawym obiektem do dyskusji nie tylko w ujęciu globalnej rywalizacji. Z perspektywy zwykłych użytkowników to także istotny element, ale od nieco innej strony… z tym że tu także przyda się wykazać pewną prostą zależność, o której część entuzjastów niestety zapomina.

Narzędzie budowane w Chinach i kontrolowane przez Chińczyków to z naszej perspektywy spore zagrożenie. Dlaczego? Najlepiej widać to wtedy, gdy z DeepThink (R1) realnie zaczniemy korzystać, choćby do podstawowych zadań.

Na prośbę o wygenerowanie prostego kodu do programu – oczywiście dostaniemy sensowną odpowiedź, gotową do wdrożenia. Gdy zechcemy wygenerować listę produktów, także poradzi sobie błyskawicznie. Logicznie odpowie także na prośbę o wytłumaczenie zawiłości fizyki kwantowej. Problem zaczyna się wtedy, gdy zechcemy z nim porozmawiać na temat, który z perspektywy twórców modelu jest niewygodny.

Przygotowaliśmy już wcześniej większe zestawienie pokazujące to, jak działa propaganda i cenzura w obrębie DeepSeek. Poniżej zaprezentuję jednak prosty przykład, obnażający nieco jak rozumuje najnowszy model z Chin.

Jeszcze ciekawszy element widać „w locie”, co uchwyciłem na poniższym nagraniu. model potrafi rozumować i rozumie zadane mu pytanie… ale w pewnym momencie natrafia w swoim kodzie na ścianę, która bezpardonowo stawia tamę i nie pozwala mu kontynuować działań.

Dzieje się tak nie dlatego, że nie jest w stanie wykonać zadania, tylko dlatego, że tak życzą sobie jego twórcy z Dalekiego Wschodu.

Dla porównania, modele tworzone przez firmy zachodnie, z nieco większą „otwartością” na przepływ informacji, na każde z takich pytań udzielają normalnej, pełnoprawnej odpowiedzi. Choć pewne ograniczniki oczywiście także i modele OpenAI mają i nie odpowiedzą one na wszystko, zasady są w ich przypadku dużo mniej dopasowane pod „konkretną agendę”.

Tego kroku DeepSeek nie można zignorować

Dlaczego to problem? W końcu w codziennym życiu i pracy raczej potrzebujemy szybko zweryfikować kod albo jakąś informację, a nie dyskutujemy z chatbotami o kwestiach kulturowo-polityczno-historycznych.

Choć obecnie może się wielu wydawać, że to bez znaczenia to jednak tworzy to bardzo niebezpieczny precedens. Albo inaczej – może nie precedens, bo to znamy już z wcześniejszych lat, tyle że co poniektórzy o tym zapomnieli.

I choć obecnie niewygodne dla Chin może być rozmawianie o takich, a nie innych kwestiach, to biorąc pod uwagę, jaka logika przyświecała DeepSeek wcześniej, możemy spokojnie założyć, że i w przyszłości z równą łatwością cenzurze podlegać będą inne tematy, które niekoniecznie pasują akurat do agendy partii komunistycznej.

I nie muszą to być tylko tematy związane z polityką. W świecie, w którym mało kto zadaje sobie trud weryfikowania informacji i przeglądania źródeł – to bardzo niebezpieczne. Ludzie przyjmują za pewnik to, co widzą na TikToku czy Facebooku. Nie inaczej będzie (a nawet już jest) z tym, co odpowie im sztuczna inteligencja.

Nietrudno jest sobie wyobrazić sytuację, w której chińskie AI będzie działało z konkretną agendą, szerząc wiedzę i na inne tematy działające na korzyść (np. lepszą percepcję) kraju swojego pochodzenia. Albo będzie zaszywało w bardziej skomplikowanych kodach backdoory, pozwalające na wgląd w budowane na ich bazie inne narzędzia.

Przy setkach linijek kodu – da się to wyłapać. Przy dziesiątkach tysięcy – już niekoniecznie. I choć obecnie to zagrożenie „abstrakcyjne”, to skoro już teraz DeepSeek jest tak mocno cenzurowany, podobną możliwość trzeba mieć zwyczajnie na uwadze.

A z tym niestety wiele osób ma problem i jest łatwo zwodzona hasłami takimi jak „za darmo” i „open source”. W dzisiejszym świecie nic nie jest za darmo. A jeśli coś brzmi za dobrze (i jednocześnie za tanio) – prawdopodobnie wygląda inaczej, niż byśmy sobie tego życzyli. Pamiętajcie o tym przed wysłaniem kolejnego prompta w DeepSeek.

Źródło: opracowanie własne. Zdjęcie otwierające: Poetra.RH / Shutterstock

Część odnośników to linki afiliacyjne lub linki do ofert naszych partnerów. Po kliknięciu możesz zapoznać się z ceną i dostępnością wybranego przez nas produktu – nie ponosisz żadnych kosztów, a jednocześnie wspierasz niezależność zespołu redakcyjnego.

Artykuł Im więcej korzystam z DeepSeek, tym więcej zagrożeń i wad w nim widzę [OPINIA] pochodzi z serwisu ANDROID.COM.PL - społeczność entuzjastów technologii.