字體:小 中 大 | |
|
|
2024/10/03 07:04:08瀏覽585|回應0|推薦0 | |
Copilot筆記本
取得應用程式
您
由 您 傳送:
OpenAI開發者大會 推4功能驅動AI更便宜、普及開發ChatGPT的OpenAI今天舉辦開發者大會,相較於去年,今年顯得格外低調,沒有進行直播,執行長阿特曼也沒有現身。會中針對開發者宣布4項可以降低成本、並讓AI應用可以更加普及的功能。
OpenAI今天在舊金山舉辦第2屆開發者大會(DevDay),公司前一週才經歷技術長穆拉提(Mira Murati)離職的連串人事動盪,還有公司轉型為營利企業的爭議,今年活動顯得格外低調。
科技新聞網站TechCrunch報導,產品長魏爾(Kevin Weil)在會前強調,穆拉提和研究長麥克葛魯(Bob McGrew)等人離開不會影響公司的進展,並表示他們對OpenAI今天的成就貢獻卓著,公司「不會放慢腳步」。
去年開發者大會結束後不久,OpenAI發生執行長阿特曼(Sam Altman)被董事會開除風波,人事動盪持續將近一年,阿特曼今天並未出席。
此外,在去年的開發者大會上,OpenAI仿效大型科技公司的策略,向消費者宣布新模型和產品,今年改變作風,主要向開發者社群宣布4項功能。
這4項功能包括「提示緩存(Prompt Caching)」,也就是開發者通過重複使用先前執行過的符元(token),能夠大幅降低成本。
第2項新功能為「視覺微調(Vision Fine-Tuning)」,開發者可以微調AI模型使之更佳地識別特定圖像,為「自動駕駛」或「醫學影像」應用開啟新頁。
另一項受到較多媒體關注的是即時API(Realtime API)功能,讓開發者打造多模態(語音、文字、圖像)、更低延遲的對話應用,並且更輕鬆地將進階語音功能整合到應用程式中。例如,讓AI代理人打電話訂購巧克力。
此外,還有讓AI更易於使用的「模型提煉(Model Distillation)」,被視為一項變革。開發人員可以使用OpenAI大型模型來「訓練」更小的模型,以此創造出針對特定需求的客製化版本,同時運行速度更快,成本更低。
舉例來說,醫療照護新創公司可以利用這項功能,開發能夠在一般硬體設備上執行的AI診斷工具,讓資源有限的環境更容易獲得AI解決方案。
OpenAI產品經理高德蒙(Olivier Godement )表示,公司將不急於在每次活動中推出新模型,而是根據模型的研究進度和安全性,來決定何時推出新產品。
Copilot:OpenAI在舊金山舉辦了第2屆DevDay開發者大會宣布了Prompt Caching提示緩存;Vision Fine-Tuning視覺微調;Realtime API即時API;Model Distillation模型提煉四項新功能,旨在降低成本,並普及AI應用!
由 Copilot 傳送:
OpenAI在舊金山舉辦了第2屆開發者大會(DevDay),宣布了提示緩存(Prompt Caching)視覺微調(Vision Fine-Tuning)即時API(Realtime API)模型提煉(Model Distillation)四項新功能,旨在降低成本並普及AI應用12。這些功能包括:
提示緩存(Prompt Caching):通過重複使用先前執行過的符元(token),大幅降低成本。
視覺微調(Vision Fine-Tuning):開發者可以微調AI模型,使其更好地識別特定圖像,適用於自動駕駛和醫學影像等應用。
即時API(Realtime API):讓開發者打造多模態(語音、文字、圖像)、低延遲的對話應用,並輕鬆整合進階語音功能。
模型提煉(Model Distillation):使用大型模型訓練更小的模型,創造針對特定需求的客製化版本,運行速度更快且成本更低23。
這些功能的推出,旨在讓AI技術更易於使用和普及,特別是對於資源有限的環境2。
你對這些新功能有什麼看法或疑問嗎?
1: 遠見雜誌 2: 風傳媒 3: 商業周刊
相關於: OpenAI開發者大會
廣告
Generative AI on AWS - AI Foundation Models
AWS Offers Secure and Easy Ways To Build Generative AI Applications Quickly. Deploy Scalable, Reliable, and Secure Generative AI Applications Using Amazon Web Services
https://aws.amazon.com/Amazon/Generative AI
深入了解
1
gvm.com.tw
2
storm.mg
3
smart.businessweekly.com.tw
4
technews.tw
5
bing.com
+1 更多
您
由 您 傳送:
你覺得即時API在哪些領域會特別有用?
Copilot
正在為您產生解答…
由 Copilot 傳送:
即時API(Realtime API)在許多領域都能發揮重要作用,特別是在需要快速反應和多模態交互的應用中。以下是幾個特別有用的領域:
客戶服務:即時API可以幫助企業打造更智能的客服系統,提供即時的語音和文字支持,提升客戶滿意度。
醫療保健:在遠程醫療中,即時API可以用於即時病人監控和診斷,提供更快速的醫療反應。
自動駕駛:即時API可以幫助自動駕駛車輛更快速地處理和反應環境變化,提高行車安全。
金融服務:在金融交易中,即時API可以用於即時風險評估和交易決策,提升交易效率和安全性。
娛樂和媒體:即時API可以用於即時內容生成和互動,例如直播節目中的即時字幕和翻譯。
這些應用都能從即時API的低延遲和多模態支持中受益,提升整體用戶體驗和效率。
你對哪個領域特別感興趣呢?
您
由 您 傳送:
我想知道更多關於即時API的技術細節。
Copilot
正在為您產生解答…
由 Copilot 傳送:
即時API(Realtime API)是一種強大的工具,能夠實現低延遲、多模態的交互。以下是一些技術細節:
語音轉語音技術(Speech-to-Speech):即時API能夠直接處理語音輸入並生成語音輸出,這意味著它可以在不經過文字轉錄的情況下進行語音處理,從而大幅降低延遲1。
多模態支持:即時API支持語音、文字和圖像的多模態交互,這使得開發者可以創建更豐富的應用,例如語音助手、即時翻譯和多媒體內容生成1。
低延遲:即時API的設計目標是實現極低的延遲,這對於需要快速反應的應用(如自動駕駛和即時客服)尤為重要1。
高效的資源利用:通過即時API,開發者可以更高效地利用計算資源,因為它能夠在邊緣設備上運行,減少對雲端資源的依賴1。
這些技術特性使即時API在語言學習、醫療保健、自動駕駛等領域具有廣泛的應用前景12。
你對哪個技術細節或應用場景特別感興趣呢?
1: TechNews 2: 經濟日報
深入了解
1
technews.tw
2
money.udn.com
3
pintech.com.tw
4
jefec.com
5
tw.alphacamp.co
6
speak.com
7
speak.com
8
speak.onelink.me
+4 更多
您
由 您 傳送:
你覺得即時API在自然語言處理方面有哪些挑戰?
Copilot
正在為您產生解答…
由 Copilot 傳送:
即時API在自然語言處理(NLP)方面面臨多項挑戰,以下是一些主要的挑戰:
低延遲需求:即時API需要在極短的時間內處理和生成語言,這對於系統的計算能力和網絡延遲提出了很高的要求1。
語言多樣性:不同語言和方言的處理是一大挑戰。即使是同一語言,也可能因地區和文化差異而有不同的表達方式2。
上下文理解:NLP系統需要理解語境才能做出正確的回應,這包括理解諷刺、幽默和多義詞等2。
數據質量:訓練數據的質量直接影響NLP模型的性能。如果數據中存在偏見或錯誤,模型的結果也會受到影響2。
隱私和安全:即時處理用戶數據需要確保數據的隱私和安全,特別是在處理敏感信息時3。
這些挑戰需要通過技術創新和不斷優化來克服,以提升即時API在自然語言處理中的應用效果。
你對哪個挑戰特別感興趣,或者有其他問題嗎?
1: NetApp 2: Shaip 3: CASE 報科學
深入了解
1
ithelp.ithome.com.tw
2
zh-tw.shaip.com
3
case.ntu.edu.tw
4
netapp.com
|
|
( 不分類|不分類 ) |