據(jù)新華社電 （記者吳曉凌）位于舊金山的美國人工智能公司“開放人工智能研究中心”（OpenAI）近日推出能夠通過文本指令創(chuàng)建視頻的生成式人工智能模型Sora，這一突破鞏固了其在人工智能領(lǐng)域的領(lǐng)軍地位，但同時(shí)也加劇了對“深度偽造”等風(fēng)險(xiǎn)的擔(dān)憂。

　　這是OpenAI首次進(jìn)軍人工智能視頻生成領(lǐng)域。據(jù)公司介紹，Sora使用Transformer架構(gòu)，可根據(jù)文本指令創(chuàng)建近似現(xiàn)實(shí)且富有想象力的場景，生成多種風(fēng)格、不同畫幅、最長為一分鐘的高清視頻。該模型還能夠根據(jù)靜態(tài)圖像生成視頻，或?qū)ΜF(xiàn)有視頻進(jìn)行擴(kuò)展或填充缺失的幀。

　　一些分析人士認(rèn)為，Sora再次凸顯人工智能技術(shù)進(jìn)步對現(xiàn)實(shí)生活和傳統(tǒng)行業(yè)的深遠(yuǎn)影響。人工智能在視頻生成領(lǐng)域的巨大發(fā)展前景在為塑造影視產(chǎn)業(yè)新業(yè)態(tài)打開大門的同時(shí)，恐將顛覆現(xiàn)存影視產(chǎn)業(yè)。

　　雖不是第一家涉足文本轉(zhuǎn)視頻領(lǐng)域的公司，但Sora的推出使OpenAI在這一賽道取得領(lǐng)先，鞏固了其在生成式人工智能領(lǐng)域的領(lǐng)軍地位。

　　OpenAI稱，Sora對語言有著深刻的理解，不僅了解用戶文本提示，還了解所述事物在物理世界中的存在方式。

　　Sora發(fā)布可謂一石激起千層浪，但此次推出的更像是預(yù)覽版，公眾尚難以深入全面了解該模型的優(yōu)缺點(diǎn)。OpenAI表示，目前僅主要向一些設(shè)計(jì)師和電影制作人等特定人群提供Sora訪問權(quán)限，以獲取有關(guān)改進(jìn)該模型的反饋。公司不僅未公布訓(xùn)練Sora模型的數(shù)據(jù)等基礎(chǔ)細(xì)節(jié)，更沒有確定向公眾發(fā)布的日期。

　　OpenAI承認(rèn)，目前Sora生成視頻中可能包含不合邏輯的圖像，混淆左右等空間細(xì)節(jié)，難以準(zhǔn)確模擬復(fù)雜場景的物理原理和因果關(guān)系實(shí)例等。例如，一個(gè)人咬了一口餅干，餅干上卻沒有咬痕。

　　不過，隨著算力增強(qiáng)、模型改進(jìn)，人們可能會在短期內(nèi)獲得更加完善、先進(jìn)的視頻生成功能。

　　不少業(yè)內(nèi)人士擔(dān)心，Sora將為“深度偽造”（Deepfake）技術(shù)推波助瀾。

　　針對造假顧慮，OpenAI稱在真正面向公眾推出產(chǎn)品時(shí)，將確保生成視頻包含來源元數(shù)據(jù)，并推出檢測視頻真?zhèn)蔚墓ぞ摺penAI還承諾，在產(chǎn)品中使用Sora前將采取安全措施，包括由“錯(cuò)誤信息、仇恨內(nèi)容和偏見等領(lǐng)域的專家”對模型進(jìn)行對抗性測試來評估危害或風(fēng)險(xiǎn)；核查并拒絕包含極端暴力、性內(nèi)容、仇恨圖像、他人IP等文本輸入提示等。

　　即便如此，OpenAI也承認(rèn)，盡管進(jìn)行了廣泛的研究和測試，“我們?nèi)詿o法預(yù)測人們將使用我們技術(shù)的所有有益方式和濫用我們技術(shù)的所有方式”。

　　在科技領(lǐng)域顛覆式創(chuàng)新不斷涌現(xiàn)的情況下，如何實(shí)現(xiàn)擁抱技術(shù)進(jìn)步和確保社會安全的平衡，越來越受到各界關(guān)注。

　　OpenAI表示，將與世界各地的政策制定者、教育工作者和藝術(shù)家合作，了解他們的擔(dān)憂，確定Sora的積極使用案例，并認(rèn)為從現(xiàn)實(shí)世界的使用中學(xué)習(xí)是創(chuàng)建和發(fā)布越來越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。