Gervigreindarfyrirtækið Anthropic hefur lagt til að hlé verði gert á alþjóðavísu á smíði öflugustu gervigreindarkerfanna vegna þess að þau nýjustu eru farin að sýna merki um að mannfólk geti misst stjórnina yfir þeim.
Anthropic er staðsett í San Francisco og er þekktast fyrir að hafa skapað gervigreindarlíkanið Claude.
Í skýrslu sinni segir fyrirtækið að það myndi „líklega vera gott mál” ef hægt yrði á þróun nýjustu gervigreindartækninnar á alþjóðavísu. Það varaði þó við því að um leið og eitt fyrirtæki hætti myndu keppinautar þeirra einfaldlega taka fram úr því.
Fær ólíklega góðan hljómgrunn
„Við teljum að það væri gott fyrir heiminn ef sá möguleiki væri fyrir hendi að hægja á eða stöðva tímabundið þróun á öflugustu gervigreindinni til að samfélagsleg kerfi og rannsóknir á samstillingu geti haldið í við framþróun tækninnar,” sagði fyrirtækið.
Það myndi þýða að fjöldi stórra gervigreindarfyrirtækja í mörgum löndum, flestum í Bandaríkjunum og Kína, þyrftu öll að samþykkja þetta á sama tíma, sagði Anthropic jafnframt.
Ólíklegt er að þessi hugmynd fái góðan hljómgrunn frá fólki á borð við Elon Musk en gervigreindarfyrirtæki hans xAI er hluti af SpaceX, sem einnig er í hans eigu. Það síðarnefnda verður sett á hlutabréfamarkað á næstunni sem mun færa Musk enn meiri auðæfi.
