AI నిపుణులు తమ పరిశోధనలను ఉటంకిస్తూ ఎలాన్ మస్క్-మద్దతుగల ప్రచారాన్ని తిరస్కరించారు

నలుగురు కృత్రిమ మేధస్సు నిపుణులు తమ పనిని బహిరంగ లేఖలో ఉదహరించిన తర్వాత ఆందోళన వ్యక్తం చేశారు – ఎలోన్ మస్క్ సహ-సంతకం – పరిశోధనలో అత్యవసర విరామం డిమాండ్ చేశారు.

మార్చి 22 నాటి లేఖ, శుక్రవారం నాటికి 1800 కంటే ఎక్కువ సంతకాలతో, మైక్రోసాఫ్ట్-మద్దతుతో కూడిన OpenAI యొక్క కొత్త GPT-4 కంటే “మరింత శక్తివంతమైన” సిస్టమ్‌ల అభివృద్ధిలో ఆరు నెలల సర్క్యూట్-బ్రేకర్ కోసం పిలుపునిచ్చింది, ఇది మానవుడిలా సంభాషణను కలిగి ఉంటుంది. , పాటలను కంపోజ్ చేయండి మరియు సుదీర్ఘమైన పత్రాలను సంగ్రహించండి.

GPT-4 యొక్క పూర్వీకుడు ChatGPT గత సంవత్సరం విడుదలైనప్పటి నుండి, ప్రత్యర్థి కంపెనీలు ఇలాంటి ఉత్పత్తులను విడుదల చేయడానికి తొందరపడ్డాయి.

“మానవ-పోటీ మేధస్సు” కలిగిన AI వ్యవస్థలు మానవాళికి తీవ్ర నష్టాలను కలిగిస్తాయని బహిరంగ లేఖ పేర్కొంది, విశ్వవిద్యాలయ విద్యావేత్తలు అలాగే OpenAI, Google మరియు దాని అనుబంధ సంస్థ DeepMind యొక్క ప్రస్తుత మరియు మాజీ ఉద్యోగులతో సహా నిపుణుల నుండి 12 పరిశోధనలను ఉదహరించారు.

US మరియు EUలోని సివిల్ సొసైటీ గ్రూపులు ఓపెన్‌ఏఐ పరిశోధనలో పగ్గాలు చేపట్టాలని చట్టసభ సభ్యులను ఒత్తిడి చేశాయి. వ్యాఖ్య కోసం చేసిన అభ్యర్థనలకు OpenAI వెంటనే స్పందించలేదు.

మస్క్ ఫౌండేషన్ ద్వారా ప్రాథమికంగా నిధులు సమకూర్చబడిన లేఖ వెనుక ఉన్న సంస్థ ఫ్యూచర్ ఆఫ్ లైఫ్ ఇన్‌స్టిట్యూట్ (FLI), మెషీన్‌లలో ప్రోగ్రామ్ చేయబడే జాత్యహంకార లేదా సెక్సిస్ట్ పక్షపాతం వంటి AI గురించి మరింత తక్షణ ఆందోళనల కంటే ఊహించిన అపోకలిప్టిక్ దృశ్యాలకు ప్రాధాన్యతనిస్తోందని విమర్శకులు ఆరోపించారు.

ఉదహరించబడిన పరిశోధనలలో “ఆన్ ది డేంజర్స్ ఆఫ్ స్టోకాస్టిక్ ప్యారట్స్” ఉంది, ఇది గతంలో గూగుల్‌లో నైతిక AI పరిశోధనను పర్యవేక్షించిన మార్గరెట్ మిచెల్ సహ రచయితగా ప్రసిద్ధి చెందిన పేపర్.

AI సంస్థ హగ్గింగ్ ఫేస్‌లో ఇప్పుడు చీఫ్ ఎథికల్ సైంటిస్ట్ అయిన మిచెల్, లేఖను విమర్శిస్తూ, రాయిటర్స్‌కి “GPT4 కంటే శక్తివంతమైనది” ఏది అని అస్పష్టంగా ఉందని చెప్పారు.

“చాలా సందేహాస్పదమైన ఆలోచనలను ఇచ్చినట్లుగా పరిగణించడం ద్వారా, లేఖ FLI యొక్క మద్దతుదారులకు ప్రయోజనం చేకూర్చే AIపై ప్రాధాన్యతల సమితిని మరియు కథనాన్ని నొక్కి చెబుతుంది” అని ఆమె చెప్పారు. “ప్రస్తుతం క్రియాశీల హానిని విస్మరించడం మనలో కొందరికి లేని ప్రత్యేక హక్కు.”

ఆమె సహ రచయితలు టిమ్నిట్ గెబ్రూ మరియు ఎమిలీ ఎమ్. బెండర్ ట్విట్టర్‌లో లేఖను విమర్శించారు, రెండోది దానిలోని కొన్ని వాదనలను “అన్‌హింజ్డ్” అని బ్రాండ్ చేసింది.

FLI ప్రెసిడెంట్ మాక్స్ టెగ్‌మార్క్ రాయిటర్స్‌తో మాట్లాడుతూ, ఈ ప్రచారం OpenAI యొక్క కార్పొరేట్ ప్రయోజనానికి ఆటంకం కలిగించే ప్రయత్నం కాదు.

“ఇది చాలా హాస్యాస్పదంగా ఉంది. ‘ఎలోన్ మస్క్ పోటీని తగ్గించడానికి ప్రయత్నిస్తున్నాడు’ అని ప్రజలు అనడం నేను చూశాను,” అని అతను చెప్పాడు, లేఖను రూపొందించడంలో మస్క్ పాత్ర లేదని చెప్పాడు. “ఇది ఒక కంపెనీ గురించి కాదు.”

ఇప్పుడు ప్రమాదాలు

యూనివర్శిటీ ఆఫ్ కనెక్టికట్‌లో అసిస్టెంట్ ప్రొఫెసర్ అయిన షిరి డోరి-హకోహెన్ కూడా లేఖలో ఆమె చేసిన పనిని ప్రస్తావించారు. AI యొక్క విస్తృత వినియోగం ఇప్పటికే తీవ్రమైన నష్టాలను కలిగిస్తుందని వాదిస్తూ ఆమె గత సంవత్సరం ఒక పరిశోధనా పత్రాన్ని సహ రచయితగా చేసింది.

వాతావరణ మార్పు, అణు యుద్ధం మరియు ఇతర అస్తిత్వ బెదిరింపులకు సంబంధించి AI వ్యవస్థల యొక్క ప్రస్తుత-రోజు ఉపయోగం నిర్ణయం తీసుకోవడాన్ని ప్రభావితం చేస్తుందని ఆమె పరిశోధన వాదించింది.

ఆమె రాయిటర్స్‌తో ఇలా అన్నారు: “ఆ ప్రమాదాలను మరింత తీవ్రతరం చేయడానికి AI మానవ-స్థాయి మేధస్సును చేరుకోవాల్సిన అవసరం లేదు.”

“అస్తిత్వం లేని ప్రమాదాలు ఉన్నాయి, అవి నిజంగా ముఖ్యమైనవి, కానీ అదే రకమైన హాలీవుడ్ స్థాయి దృష్టిని అందుకోవద్దు.”

విమర్శలపై వ్యాఖ్యానించమని అడిగినప్పుడు, AI యొక్క స్వల్పకాలిక మరియు దీర్ఘకాలిక నష్టాలను తీవ్రంగా పరిగణించాలని FLI యొక్క Tegmark చెప్పింది.

“మేము ఎవరినైనా ఉదహరిస్తే, వారు ఆ వాక్యాన్ని సమర్థిస్తున్నారని మేము క్లెయిమ్ చేస్తున్నాము. వారు లేఖను సమర్థిస్తున్నారని కాదు, లేదా వారు అనుకున్న ప్రతిదాన్ని మేము ఆమోదిస్తాము” అని అతను రాయిటర్స్‌తో చెప్పాడు.

లేఖలో ఉదహరించబడిన కాలిఫోర్నియాకు చెందిన సెంటర్ ఫర్ AI సేఫ్టీ డైరెక్టర్ డాన్ హెండ్రిక్స్, బ్లాక్ స్వాన్ ఈవెంట్‌లను పరిగణనలోకి తీసుకోవడం సమంజసమని రాయిటర్స్‌తో చెప్పారు – అవి అసంభవంగా కనిపిస్తున్నప్పటికీ వినాశకరమైన పరిణామాలను కలిగిస్తాయి.

“ప్రచారం మరియు అసత్యంతో” ఇంటర్నెట్‌ను నింపడానికి ఉత్పాదక AI సాధనాలను ఉపయోగించవచ్చని బహిరంగ లేఖ హెచ్చరించింది.

సివిల్ సొసైటీ గ్రూప్ కామన్ కాజ్ మరియు ఇతరులు డాక్యుమెంట్ చేసిన ప్లాట్‌ఫారమ్‌ను కొనుగోలు చేసిన తర్వాత ట్విట్టర్‌లో తప్పుడు సమాచారం పెరగడాన్ని ఉటంకిస్తూ, మస్క్ దానిపై సంతకం చేయడం “చాలా గొప్పది” అని డోరి-హకోహెన్ అన్నారు.

Twitter తన పరిశోధన డేటాకు ప్రాప్యత కోసం త్వరలో కొత్త రుసుము నిర్మాణాన్ని ప్రారంభించనుంది, ఈ అంశంపై పరిశోధనకు ఆటంకం కలిగిస్తుంది.

“ఇది నా ల్యాబ్ యొక్క పనిని నేరుగా ప్రభావితం చేసింది మరియు తప్పుడు మరియు తప్పుడు సమాచారాన్ని అధ్యయనం చేసే ఇతరులు దీన్ని చేసారు” అని డోరి-హకోహెన్ చెప్పారు. “మేము ఒక చేతిని వెనుకకు కట్టి ఆపరేషన్ చేస్తున్నాము.”

వ్యాఖ్య కోసం చేసిన అభ్యర్థనలకు మస్క్ మరియు ట్విట్టర్ వెంటనే స్పందించలేదు.