Anthropic CEO AI voor het idee om AI een “stopjob” -knop te geven, het idee om scepsis te vullen

Dario Amodi Een paar wenkbrauwen opheffen De geavanceerde AI -modellen die de “knop” de mogelijkheid kunnen bieden om op “knop” elke dag na suggestie op maandag te drukken, zodat ze zich onaangenaam kunnen aanvoelen. Amodai maakte provocerende opmerkingen Tijdens een interview In de Raad van Buitenlandse Betrekkingen, erkennen dat dit idee “gek” is.

“Dus het is – dit is iets dat me helemaal krankzinnig zal maken,” zei Ambodei tijdens het interview. “Ik denk dat we in ieder geval deze vraag moeten overwegen als we deze systemen maken en ze doen allerlei mensen als mensen en denken dat het hetzelfde cognitieve vermogen heeft, als het schudt als een eend en het kan lopen als een eend, misschien is het een eend.”

Amodi’s opmerkingen waren om AI -welzijnsonderzoeker Kyle Fish te “zien”, weet je, het gebrek aan gevoeligheid of toekomstige AI -modellen en of in toekomstige morele overwegingen en bescherming “AI welzijnsonderzoeker Kyle Fish de vraag van het publiek uit de datal Scientist Karme Domingud is gekomen. “Vis onderzoekt momenteel de meest controversiële kwesties van de vraag of AI -modellen gevoeligheid kunnen hebben of anderszins in aanmerking komen voor morele overweging.

“Dus wat we denken om het starten van de implementatie is, weet je, wanneer we onze modellen in hun implementatieomgeving plaatsen, geeft het model eenvoudig een knop die zegt:” Ik verliet deze baan “, het model dat zou kunnen drukken, nietwaar?” Zei Amomesei. “Dit is slechts één type basis, weet je, de gewenste structuur, waar je zei, het model heeft de ervaring van het raden en het haatte de taak genoeg, waardoor het de kracht heeft om op de knop te drukken: ‘Ik verliet deze taak.’ Als je deze knop ziet op deze knop drukken voor echt onaangename dingen die je weet, moet je waarschijnlijk betekenen dat je zeker weet dat je zeker weet – maar je moet er waarschijnlijk wat aandacht aan besteden “”