Novinky.cz

Společnost Anthropic popsala případ ruské skupiny, která s pomocí jejího modelu Claude vyvíjela autonomní roj kamikadze dronů. Systém měl být schopen sám vyhodnotit cíl a vydat příkaz k detonaci, aniž by do tohoto rozhodnutí musel zasahovat člověk. Jde o další z bezpečnostních incidentů, které popsala alarmující zpráva firmy Anthropic a na základě které její šéf Dario Amodei vyzval ke zpomalení v…

Vývoj umělé inteligence je příliš rychlý a bezpečnostní opatření přestávají stačit. Varuje před tím šéf společnosti Anthropic Dario Amodei. Podle něj se tempo vývoje v posledních měsících výrazně zrychlilo a během příštího roku může umělá inteligence získat schopnosti, které budou představovat podstatně větší riziko než dnes. Amodei proto vyzývá firmy vyvíjející nejpokročilejší modely, aby zpomal…