Gervigreindarfyrirtækið Anthropic segir að gervigreindarkerfi séu í auknum mæli fær um að taka þátt í þróun næstu kynslóða af sjálfum sér. Þetta bætist við vaxandi áhyggjur af hættum sem fylgt geta hinni öflugu tækni.

Umræða um áhættu tengda gervigreind hefur orðið háværari undanfarna mánuði, meðal annars vegna nokkurra atvika og alvarlegra viðvarana frá fólki innan tæknigeirans.

Anthropic segir spjallmennið Claude nú leiða meira en fjórðung rannsóknar- og þróunarstarfs fyrirtækisins og vinna með starfsmönnum að meira en 90 prósentum verkefna.

Fyrirtækið segir upplýsingarnar birtar til að almenningur, óháðir aðilar og stjórnvöld fái „betri yfirsýn yfir hraða þróunar gervigreindar“ á sama tíma og rætt sé um hvort hægja eigi á þróuninni.

Dario Amodei, forstjóri Anthropic, kallaði fyrr í þessum mánuði eftir því að hægja yrði á þróun gervigreindar. Hröð framþróun tækninnar hefur meðal annars ýtt undir áhyggjur af atvinnumissi, ört vaxandi orkuþörf gagnavera og umhverfisáhrifum þeirra.

Áhyggjur af því að þeir …