(資料圖)

【CNMO新聞】此前，馬斯克曾大膽放話稱，AI能導(dǎo)致人類文明毀滅。此言乍一聽確實(shí)有一些夸張成分，但是其隱含的警示意味仍然應(yīng)該引起重視。近日，CNMO了解到，曾擔(dān)任OpenAI安全研究員保羅·克里斯蒂亞諾發(fā)出警告，提醒人們?nèi)斯ぶ悄芸赡茏罱K會導(dǎo)致人類終結(jié)。

人工智能

保羅·克里斯蒂亞諾在一個(gè)播客節(jié)目中說道:“我認(rèn)為人工智能取代人類的可能性大約為10-20%，我們需要非常嚴(yán)肅地對待這個(gè)問題。”他認(rèn)為，AI消滅人類的最可能方式是將日常生活中部署的所有AI聯(lián)合起來，而不是突然消滅人類。人類的終結(jié)不是一場突如其來的事件，而是人工智能逐漸地崛起，其通過AI控制自動(dòng)駕駛汽車、無人機(jī)等科技領(lǐng)域逐漸毀滅人類。不要覺得這是危言聳聽，當(dāng)AI超越人類智商閾值時(shí)，這一切皆有可能。

人工智能

此外，CNMO了解到，保羅·克里斯蒂亞諾的新非營利組織Alignment Research Center致力于人工智能對齊的概念，即讓機(jī)器的動(dòng)機(jī)與人類的動(dòng)機(jī)保持一致。該概念早在2018年就被廣泛定義，并被認(rèn)為對于防止人工智能毀滅人類的可能性至關(guān)重要。雖然OpenAI聲稱，旨在使人工智能與人類價(jià)值觀保持一致，并遵循人類意圖，但這仍需要進(jìn)行更多的研究和開發(fā)，以確保安全地開發(fā)人工智能。

值得一提的是，此前，被稱為人工智能先驅(qū)、人工智能教父的杰弗里·辛頓在接受采訪時(shí)表示，AI對人類的威脅可能要比天災(zāi)造成的影響更為廣泛。

標(biāo)簽：