Het lijkt erop dat AI in onze wereld kwam, makers een loodvoet op het gas hebben gelegd. Volgens een nieuw beleidsdocument kan meta -CEO Mark Zuckerberg echter de ontwikkeling van AGI -systemen die als “hoog risico” of “kritisch risico” worden beschouwd, vertragen of stoppen.
AGI is een AI -systeem dat alles kan doen wat een mens kan doen, en Zuckerberg beloofde het op een dag openlijk beschikbaar te maken. Maar in het document “Frontier AI Framework,“Zuckerberg geeft toe dat sommige zeer capabele AI -systemen niet publiekelijk worden vrijgegeven omdat ze te riskant kunnen zijn.
Het raamwerk “richt zich op de meest kritische risico’s op het gebied van cybersecurity -bedreigingen en risico’s van chemische en biologische wapens.”
Mark Zuckerberg verdubbelt de inzending van Meta aan Trump
“Door prioriteit te geven aan deze gebieden, kunnen we werken om de nationale veiligheid te beschermen en tegelijkertijd innovatie te bevorderen. Ons framework schetst een aantal processen die we volgen om te anticiperen en het risico te beperken bij het ontwikkelen van Frontier AI -systemen,” Een persbericht over het document leest.
Mashable Lichtsnelheid
Het raamwerk is bijvoorbeeld bedoeld om “potentiële catastrofale resultaten te identificeren die verband houden met cyber-, chemische en biologische risico’s die we ernaar streven”. Het voert ook “dreigingsmodelleringsoefeningen uit om te anticiperen op hoe verschillende actoren kunnen proberen Frontier AI te misbruiken om die catastrofale resultaten te produceren” en heeft “processen om risico’s binnen acceptabele niveaus te houden.”
Als het bedrijf vaststelt dat de risico’s te hoog zijn, houdt het het systeem intern in plaats van de toegang van het publiek toe te staan.
Mark Zuckerberg wil meer ‘mannelijke energie’ in het Amerikaanse bedrijfsleven
“Hoewel de focus van dit raamwerk ligt op onze inspanningen om te anticiperen op en de risico’s van catastrofale resultaten te beperken, is het belangrijk te benadrukken dat de reden om geavanceerde AI -systemen te ontwikkelen in de eerste plaats is te wijten , “Het document luidt.
Toch lijkt het erop dat Zuckerberg de remmen raakt – althans voor nu – op Agi’s Fast Track to the Future.
