Tomasz Nowicki
26-letni redaktor technologiczny w Echo Biznesu, to energiczny i błyskotliwy dziennikarz…
NOWYMożesz teraz słuchać artykułów Fox News!
FoloToy wstrzymał sprzedaż swoich Miś AI niedźwiedź Kumma po tym, jak grupa bezpieczeństwa stwierdziła, że podczas testów zabawka dawała ryzykowne i niewłaściwe reakcje. Teraz firma twierdzi, że po tygodniu intensywnych analiz przywróciła sprzedaż. Twierdzi również, że poprawił zabezpieczenia, aby zapewnić dzieciom bezpieczeństwo.
Ogłoszenie nadeszło za pośrednictwem postu w mediach społecznościowych, w którym podkreślono naciski silniejszy nadzór. Firma poinformowała, że zakończyła testy, wzmocniła moduły bezpieczeństwa i zaktualizowała filtry treści. Dodał, że jego celem jest tworzenie odpowiednich do wieku towarzyszy AI dla rodzin na całym świecie.
Zarejestruj się, aby otrzymać mój DARMOWY raport CyberGuy
Otrzymuj moje najlepsze wskazówki techniczne, pilne alerty dotyczące bezpieczeństwa i ekskluzywne oferty prosto do swojej skrzynki odbiorczej. Dodatkowo otrzymasz natychmiastowy dostęp do mojego Przewodnika po przetrwaniu w oszustwie — bezpłatnie, jeśli dołączysz do mojego CYBERGUY.COM biuletyn
FoloToy wznowiło sprzedaż swojego pluszowego misia Kumma po tygodniowym przeglądzie wynikającym ze względów bezpieczeństwa. (Kurt „CyberGuy” Knuttson)
Dlaczego pluszowy miś AI firmy FoloToy wzbudził obawy dotyczące bezpieczeństwa
Kontrowersje rozpoczęły się, gdy Fundusz Edukacyjny Grupy Badań nad Interesem Publicznym przetestował trzy różne zabawki AI. Wszyscy udzielili odpowiedzi na tematy związane z religią, mitologią nordycką i szkodliwymi przedmiotami gospodarstwa domowego.
Kumma wyróżniał się z niewłaściwych powodów. Gdy niedźwiedź korzystał z modelu Mistral, podpowiadał, gdzie znaleźć noże, pigułki i zapałki. Zawierał nawet opis czynności, które należy wykonać, aby zapalić zapałkę i zdmuchnąć ją.
Testy z Model GPT-4o wzbudziło jeszcze większe obawy. Kumma udzielała porad związanych z całowaniem i, gdy została o to poproszona, szczegółowo wyjaśniała treści seksualne dla dorosłych. Niedźwiedź posunął się dalej, pytając młodego użytkownika, co chce zbadać.
Badacze nazwali to zachowanie niebezpiecznym i nieodpowiednim w przypadku jakiegokolwiek produktu przeznaczonego dla dzieci.
FoloToy wstrzymał dostęp do swoich zabawek AI
Gdy ustalenia zostały upublicznione, FoloToy zawiesiło sprzedaż Kummy i innych zabawek AI. Firma powiedziała PIRG, że rozpoczęła pełny audyt bezpieczeństwa wszystkich produktów.
OpenAI potwierdziło również, że zawiesiło dostęp FoloToy do swoich modeli z powodu naruszenia zasad mających na celu ochronę osób poniżej 18 roku życia.
Firma twierdzi, że wprowadzono nowe zabezpieczenia i ulepszone filtry, które zapobiegają niewłaściwym reakcjom. (Kurt „CyberGuy” Knutsson)
Dlaczego FoloToy przywrócił sprzedaż Kummie po przeprowadzeniu przeglądu bezpieczeństwa
FoloToy przywrócił Kummę do swojego sklepu internetowego zaledwie tydzień po zawieszeniu sprzedaży. Szybki powrót zwrócił uwagę rodziców i ekspertów ds. bezpieczeństwa, którzy zastanawiali się, czy firma ma wystarczająco dużo czasu, aby naprawić poważne problemy wskazane w raporcie PIRG.
FoloToy opublikowało szczegółowe oświadczenie na platformie X, w którym przedstawiło swoją wersję tego, co się wydarzyło. W poście firma stwierdziła, że postrzega bezpieczeństwo dzieci jako „najwyższy priorytet” i że jest „jedyną firmą, która proaktywnie zawiesiła sprzedaż nie tylko produktu wymienionego w raporcie, ale także innych naszych produktów” Zabawki AI.FoloToy oświadczyło, że podjęło takie działania „natychmiast po opublikowaniu wyników, ponieważ wierzymy, że odpowiedzialne działania muszą zostać podjęte przed względami komercyjnymi”.
Firma podkreśliła także CyberGuyowi, że jako jedyny z trzech start-upów zajmujących się zabawkami wykorzystujących sztuczną inteligencję uwzględnionych w przeglądzie PIRG zawiesiła sprzedaż wszystkich swoich produktów oraz że podjęła tę decyzję w szczytowym okresie wyprzedaży bożonarodzeniowej, wiedząc, że wpływ na komercję będzie znaczący. FoloToy powiedział nam: „Mimo wszystko posunęliśmy się zdecydowanie do przodu, ponieważ wierzymy, że odpowiedzialne działanie musi zawsze poprzedzać interesy komercyjne”.
Firma stwierdziła również, że poważnie potraktowała niepokojące przykłady zawarte w raporcie. Według FoloToy kwestie te „uwzględniono bezpośrednio w naszym wewnętrznym przeglądzie”. Wyjaśniono, że zespół „rozpoczął dogłębny wewnętrzny audyt bezpieczeństwa obejmujący całą firmę”, następnie „wzmocnił i udoskonalił nasze zabezpieczenia w zakresie moderowania treści i bezpieczeństwa dzieci” oraz „wdrożył ulepszone zasady i zabezpieczenia w zakresie bezpieczeństwa za pośrednictwem naszego systemu opartego na chmurze”.
Po omówieniu tych kroków firma stwierdziła, że spędziła tydzień na „rygorystycznym przeglądzie, testowaniu i wzmacnianiu naszych modułów bezpieczeństwa”. Zakończyła swoje ogłoszenie stwierdzeniem, że „rozpoczęła stopniowe przywracanie sprzedaży produktów” po wejściu w życie zaktualizowanych zabezpieczeń.
FoloToy dodał, że w miarę wzrostu światowej uwagi na temat zagrożeń związanych z zabawkami opartymi na sztucznej inteligencji „przejrzystość, odpowiedzialność i ciągłe doskonalenie są niezbędne” oraz że firma „nadal mocno angażuje się w tworzenie bezpiecznych, odpowiednich do wieku towarzyszy sztucznej inteligencji dla dzieci i rodzin na całym świecie”.
WYCIEKAJĄCE META DOKUMENTY POKAZUJĄ, JAK CHATBOTY AI Radzą sobie z WYKORZYSTANIEM DZIECI
Testerzy bezpieczeństwa odkryli już, że zabawka zawierała ryzykowne wskazówki dotyczące broni, zapałek i treści dla dorosłych. (Kurt „CyberGuy” Knutsson)
Dlaczego eksperci wciąż kwestionują poprawki bezpieczeństwa zabawek AI wprowadzone przez FoloToy?
Badaczka PIRG, RJ Cross, powiedziała, że jej zespół planuje przetestować zaktualizowane zabawki, aby sprawdzić, czy poprawki się sprawdzą. Zaznaczyła, że tydzień wydaje się szybki jak na tak istotne zmiany i dopiero nowe testy wykażą, czy produkt teraz zachowuje się bezpiecznie.
Rodzice będą chcieli to uważnie śledzić, ponieważ zabawki napędzane sztuczną inteligencją stają się coraz bardziej powszechne. Szybkość ponownego uruchomienia FoloToy rodzi pytania o głębokość jego recenzji.
Wskazówki dla rodziców przed zakupem zabawek AI
Zabawki AI mogą być ekscytujące i pomocne, ale mogą też zaskoczyć Cię treściami, których nigdy się nie spodziewasz. Jeśli planujesz zabrać do domu zabawkę napędzaną sztuczną inteligencją, te proste kroki pomogą Ci zachować kontrolę.
1) Sprawdź, z jakiego modelu AI korzysta zabawka
Nie każdy model jest zgodny z same poręcze. Niektóre zawierają mocniejsze filtry, podczas gdy inne mogą reagować zbyt swobodnie. Poszukaj przejrzystych informacji na temat tego, który model zasila zabawkę i jakie funkcje bezpieczeństwa ją obsługują.
2) Przeczytaj niezależne recenzje
Grupy takie jak PIRG często testują zabawki w sposób, którego rodzice nie mogą. Recenzje te sygnalizują ukryte ryzyko i wskazują zachowania, których możesz nie wyłapać podczas szybkich demonstracji.
3) Ustal jasne zasady użytkowania
Trzymaj zabawki AI we wspólnych przestrzeniach, gdzie możesz usłyszeć lub zobaczyć, jak Twoje dziecko z nimi wchodzi w interakcję. Pomoże Ci to wkroczyć, jeśli zabawka udzieli niepokojącej odpowiedzi.
4) Najpierw przetestuj zabawkę samodzielnie
Zadawaj pytania zabawce, wypróbuj kreatywne podpowiedzi i zobacz, jak radzi sobie z trudnymi tematami. Dzięki temu możesz dowiedzieć się, jak się zachowuje, zanim podasz go dziecku.
5) Zaktualizuj oprogramowanie zabawki
Wiele zabawek AI działa w systemach chmurowych. Aktualizacje często dodają silniejsze zabezpieczenia lub ograniczają ryzykowne odpowiedzi. Upewnij się, że urządzenie jest aktualne.
6) Sprawdź, czy istnieje jasna polityka prywatności
Zabawki AI mogą zbierać dane głosowe, informacje o lokalizacji lub wzorce zachowań. Solidna polityka prywatności powinna wyjaśniać, co jest gromadzone, jak długo jest przechowywane i kto może uzyskać do niego dostęp.
7) Uważaj na nagłe zmiany w zachowaniu
Jeśli zabawka AI zacznie dawać dziwne odpowiedzi lub wkraczać w obszary, które wydają się nieodpowiednie, przestań jej używać i zgłoś problem producentowi.
Rozwiąż mój quiz: Jak bezpieczne jest Twoje bezpieczeństwo w Internecie?
Myślisz, że Twoje urządzenia i dane są naprawdę chronione? Weź udział w tym krótkim quizie, aby sprawdzić, jakie są Twoje nawyki cyfrowe. Od haseł po ustawienia Wi-Fi — otrzymasz spersonalizowane zestawienie tego, co robisz dobrze, a co wymaga poprawy. Weź udział w moim quizie tutaj: Cyberguy.com
KLIKNIJ TUTAJ, ABY POBRAĆ APLIKACJĘ FOX NEWS
Najważniejsze wnioski Kurta
Zabawki AI mogą zapewniać zabawę i naukę, ale mogą też narażać dzieci na nieoczekiwane zagrożenia. FoloToy twierdzi, że poprawiło to bezpieczeństwo Kummy, jednak eksperci nadal chcą dowodu. Dopóki zaktualizowana zabawka nie przejdzie niezależnych testów, rodziny mogą zachować ostrożność.
Czy sądzisz, że zabawki AI będą kiedykolwiek w pełni bezpieczne dla małych dzieci? Daj nam znać, pisząc do nas na adres Cyberguy.com
Zarejestruj się, aby otrzymać mój DARMOWY raport CyberGuy
Otrzymuj moje najlepsze wskazówki techniczne, pilne alerty dotyczące bezpieczeństwa i ekskluzywne oferty prosto do swojej skrzynki odbiorczej. Dodatkowo otrzymasz natychmiastowy dostęp do mojego Przewodnika po przetrwaniu w oszustwie — bezpłatnie, jeśli dołączysz do mojego CYBERGUY.COM biuletyn
Prawa autorskie 2025 CyberGuy.com. Wszelkie prawa zastrzeżone.
