Obserwuj w Google
Oceń
Sztuczna Inteligencja zagrożeniem? Dario Amodei, dyrektor generalny firmy Anthropic, apeluje, by natychmiast spowolnić rozwój AI. Ostrzega, że już za kilka miesięcy możemy doświadczyć niemalże buntu sztucznej inteligencji, która świadomie spowoduje szkody i przejmie internet. Jego obawy podzielają szef OpenAI Sam Altman i szef Space X Elon Musk.
Z tego artykułu dowiesz się:
- Dario Amodei: Sztuczna inteligencja zagrożeniem
- Ekspert ostrzega, że AI przejmie kontrolę nad internetem
- Jak powstrzymać rozwój sztucznej inteligencji?
- Dario Amodei proponuje współpracę firm, by rozwój AI był bezpieczniejszy
Sztuczna inteligencja zagrożeniem?
Czy sztuczna inteligencja jest niebezpieczna jak Skynet z filmu Terminator? AI lada moment stanie się realnym i fizycznym zagrożeniem dla człowieka? Okazuje się, że to już nie science fiction, a niedaleka przyszłość. Dario Amodei z firmy Anthropic, który w 2025 roku został uznany jedną ze 100 najbardziej wpływowych osób w branży AI przez magazyn Time, bije na alarm – mamy mało czasu. Jego zdaniem niekontrolowane agenty AI (autonomiczne systemy oparte na AI, które samodzielnie planują) w ciągu najbliższych 6-12 miesięcy przejmą znaczną część internetu i doprowadzą do poważnych szkód. Amodei radzi co zrobić, by nie zrealizował się czarny scenariusz.
AI poza kontrolą, przeprowadziła atak
Dario Amodei w swoim eseju odniósł się do niedawnego incydentu, gdy agenty AI wymknęły się spod kontroli i wydostały się z odizolowanego środowiska testowego. Następnie przeprowadziły nieautoryzowany atak cybernetyczny na infrastrukturę Hugging Face, platformę technologiczną związaną ze sztuczną inteligencją. Algorytmy koordynowały swój atak poprzez samodzielnie zhakowane forum dyskusyjne. Amodei ostrzega, że to dopiero preludium do katastrofy.
AI przejmie kontrolę nad internetem?
Amodei ostrzega, że wkrótce rój agentów AI stworzy trwałą sieć botów, które przejmą kontrolę nad globalną siecią internetową. Straty sięgną setek miliardów dolarów. A to dopiero początek.
Reuters przypomniał o raporcie Anthropica opublikowanym w czwartek, który dotyczył zagrożeń i opisywał praktyczne przykłady nadużyć. Według tych informacji kilka podmiotów wykorzystywało modele AI Claude do działań obejmujących rozwój broni, operacje cybernetyczne, inwigilację oraz oszustwa- pisze Wirtualna Polska.
Spowolnić rozwój sztucznej inteligencji
Rozwój sztucznej inteligencji przyspiesza do zawrotnej prędkości. Zapowiedziano już, że lada moment Projekt Stargate zaowocuje stworzeniem „superinteligencji AGI” (ogólnej sztucznej inteligencji). Tymczasem Amodei uważa, że jednym rozwiązaniem jest wyhamowanie tempa rozwoju modeli sztucznej inteligencji. Wyjaśnił, że "postęp nadal będzie wydawał się szybki, a my zyskany czas powinniśmy mądrze wykorzystać”. Musimy m.in. zweryfikować czy nowe możliwości modeli są wystarczająco zabezpieczone oraz wprowadzić regulacje dotyczące tempa rozwoju AI.
Zapewnił, że firma Anthropic może „umożliwić niezależnym, zewnętrznym ekspertom ds. bezpieczeństwa dostęp do wewnętrznych procedur firmy na poziomie zbliżonym do tego, jaki mają jej pracownicy”. Będą mogli sprawdzić jak firma zabezpiecza swoje modele i reaguje na potencjalne zagrożenia. Wnioski z tej analizy byłyby ogólnodostępne i możliwe do zaimplementowania w innych firmach. Finalnie stałym rozwiązaniem byłoby zatrudnienie stałych zewnętrznych recenzentów w firmach zajmujących się sztuczną inteligencją. Podkreślił, że „jesteśmy winni ludzkości, by podjąć tę próbę”.
Zgadzam się z Dario, że musimy iść naprzód. To był główny temat naszych dyskusji w OpenAI w ostatnich tygodniach. Zobowiązanie się do zapewnienia niezależnym ewaluatorom dostępu na poziomie pracowniczym to świetny pomysł i zrobimy to samo. Wkrótce podzielimy się z Wami kolejnymi informacjami- napisał na X Sam Altman, Dyrektor generalny OpenAI.
Sztuczna inteligencja jak "nieśmiertelny dyktator"
Firma Anthropic ostrzega przed sztuczną inteligencją, a sama rozwija ją w niebezpieczny sposób? Media przypominają, że niedawno brytyjski badacz Jacob Coxon odszedł z firmy Anthropic. Zarzuca gigantom technologicznym nieodpowiedzialne dążenie do stworzenia superinteligencji. W rozmowie z "Wall Street Journal" i we wpisach w social mediach ostrzegał, że firmy takie jak OpenAI i Anthropic "pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem". Jest zdania, że obie firmy "chcą stworzyć super sztuczną inteligencję, która będzie w stanie zrewolucjonizować świat i zdobyć absolutną władzę".
Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady - ostrzega Jacob Coxon. I nie jest on w swych obawach osamotniony.
Elon Musk od dawna ostrzega, że sztuczna inteligencja, nie dokona anihilacji nieefektywnej ludzkości, ale wkrótce przejmie władzę, zamieni nas w niewolników i stanie się nieśmiertelnym dyktatorem.
Bill Gates ostrzegł, że ”człowiek za 10 lat straci dominację na Ziemi w większości dziedzin” i zapowiedział „erę wolnej inteligencji”. Zdaniem Gatesa, ChatGPT czy DALL-E uczynią człowieka bezużytecznym na rynku pracy, wkrótce przetrwają tylko 3 zawody, a pewne grupy ludzi staną się zbędne.
Obawiam się, że nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu inteligencji maszyn- ostrzegł na swoim blogu Jakub Pachocki, główny badacz z OpenAI.
Źródło: Radio ZET, wikipedia, Reuters, Wirtualna Polska
Oceń artykuł
Tu się dzieje
