Copilot:OpenAI在舊金山舉辦了第2屆DevDay開發者大會宣布了Prompt Caching提示緩存;Vision Fine-Tuning視覺微調;Realtime API即時API;Model Distillation模型提煉四項新功能,旨在降低成本,並普及AI應用!
Copilot筆記本
取得應用程式
您
由 您 傳送:
OpenAI開發者大會 推4功能驅動AI更便宜、普及開發ChatGPT的OpenAI今天舉辦開發者大會，相較於去年，今年顯得格外低調，沒有進行直播，執行長阿特曼也沒有現身。會中針對開發者宣布4項可以降低成本、並讓AI應用可以更加普及的功能。
OpenAI今天在舊金山舉辦第2屆開發者大會（DevDay），公司前一週才經歷技術長穆拉提（Mira Murati）離職的連串人事動盪，還有公司轉型為營利企業的爭議，今年活動顯得格外低調。
科技新聞網站TechCrunch報導，產品長魏爾（Kevin Weil）在會前強調，穆拉提和研究長麥克葛魯（Bob McGrew）等人離開不會影響公司的進展，並表示他們對OpenAI今天的成就貢獻卓著，公司「不會放慢腳步」。
去年開發者大會結束後不久，OpenAI發生執行長阿特曼（Sam Altman）被董事會開除風波，人事動盪持續將近一年，阿特曼今天並未出席。
此外，在去年的開發者大會上，OpenAI仿效大型科技公司的策略，向消費者宣布新模型和產品，今年改變作風，主要向開發者社群宣布4項功能。
這4項功能包括「提示緩存（Prompt Caching）」，也就是開發者通過重複使用先前執行過的符元（token），能夠大幅降低成本。
第2項新功能為「視覺微調（Vision Fine-Tuning）」，開發者可以微調AI模型使之更佳地識別特定圖像，為「自動駕駛」或「醫學影像」應用開啟新頁。
另一項受到較多媒體關注的是即時API（Realtime API）功能，讓開發者打造多模態（語音、文字、圖像）、更低延遲的對話應用，並且更輕鬆地將進階語音功能整合到應用程式中。例如，讓AI代理人打電話訂購巧克力。
此外，還有讓AI更易於使用的「模型提煉（Model Distillation）」，被視為一項變革。開發人員可以使用OpenAI大型模型來「訓練」更小的模型，以此創造出針對特定需求的客製化版本，同時運行速度更快，成本更低。
舉例來說，醫療照護新創公司可以利用這項功能，開發能夠在一般硬體設備上執行的AI診斷工具，讓資源有限的環境更容易獲得AI解決方案。
OpenAI產品經理高德蒙（Olivier Godement ）表示，公司將不急於在每次活動中推出新模型，而是根據模型的研究進度和安全性，來決定何時推出新產品。
Copilot:OpenAI在舊金山舉辦了第2屆DevDay開發者大會宣布了Prompt Caching提示緩存;Vision Fine-Tuning視覺微調;Realtime API即時API;Model Distillation模型提煉四項新功能,旨在降低成本,並普及AI應用!
由 Copilot 傳送:
OpenAI在舊金山舉辦了第2屆開發者大會（DevDay），宣布了提示緩存（Prompt Caching）視覺微調（Vision Fine-Tuning）即時API（Realtime API）模型提煉（Model Distillation）四項新功能，旨在降低成本並普及AI應用12。這些功能包括：
提示緩存（Prompt Caching）：通過重複使用先前執行過的符元（token），大幅降低成本。
視覺微調（Vision Fine-Tuning）：開發者可以微調AI模型，使其更好地識別特定圖像，適用於自動駕駛和醫學影像等應用。
即時API（Realtime API）：讓開發者打造多模態（語音、文字、圖像）、低延遲的對話應用，並輕鬆整合進階語音功能。
模型提煉（Model Distillation）：使用大型模型訓練更小的模型，創造針對特定需求的客製化版本，運行速度更快且成本更低23。
這些功能的推出，旨在讓AI技術更易於使用和普及，特別是對於資源有限的環境2。
你對這些新功能有什麼看法或疑問嗎？
1: 遠見雜誌 2: 風傳媒 3: 商業周刊
相關於: OpenAI開發者大會
廣告
Generative AI on AWS - AI Foundation Models
AWS Offers Secure and Easy Ways To Build Generative AI Applications Quickly. Deploy Scalable, Reliable, and Secure Generative AI Applications Using Amazon Web Services
https://aws.amazon.com/Amazon/Generative AI
深入了解
1
gvm.com.tw
2
storm.mg
3
smart.businessweekly.com.tw
4
technews.tw
5
bing.com
+1 更多
您
由 您 傳送:
你覺得即時API在哪些領域會特別有用？
Copilot
正在為您產生解答…
由 Copilot 傳送:
即時API（Realtime API）在許多領域都能發揮重要作用，特別是在需要快速反應和多模態交互的應用中。以下是幾個特別有用的領域：
客戶服務：即時API可以幫助企業打造更智能的客服系統，提供即時的語音和文字支持，提升客戶滿意度。
醫療保健：在遠程醫療中，即時API可以用於即時病人監控和診斷，提供更快速的醫療反應。
自動駕駛：即時API可以幫助自動駕駛車輛更快速地處理和反應環境變化，提高行車安全。
金融服務：在金融交易中，即時API可以用於即時風險評估和交易決策，提升交易效率和安全性。
娛樂和媒體：即時API可以用於即時內容生成和互動，例如直播節目中的即時字幕和翻譯。
這些應用都能從即時API的低延遲和多模態支持中受益，提升整體用戶體驗和效率。
你對哪個領域特別感興趣呢？
您
由 您 傳送:
我想知道更多關於即時API的技術細節。
Copilot
正在為您產生解答…
由 Copilot 傳送:
即時API（Realtime API）是一種強大的工具，能夠實現低延遲、多模態的交互。以下是一些技術細節：
語音轉語音技術（Speech-to-Speech）：即時API能夠直接處理語音輸入並生成語音輸出，這意味著它可以在不經過文字轉錄的情況下進行語音處理，從而大幅降低延遲1。
多模態支持：即時API支持語音、文字和圖像的多模態交互，這使得開發者可以創建更豐富的應用，例如語音助手、即時翻譯和多媒體內容生成1。
低延遲：即時API的設計目標是實現極低的延遲，這對於需要快速反應的應用（如自動駕駛和即時客服）尤為重要1。
高效的資源利用：通過即時API，開發者可以更高效地利用計算資源，因為它能夠在邊緣設備上運行，減少對雲端資源的依賴1。
這些技術特性使即時API在語言學習、醫療保健、自動駕駛等領域具有廣泛的應用前景12。
你對哪個技術細節或應用場景特別感興趣呢？
1: TechNews 2: 經濟日報
深入了解
1
technews.tw
2
money.udn.com
3
pintech.com.tw
4
jefec.com
5
tw.alphacamp.co
6
speak.com
7
speak.com
8
speak.onelink.me
+4 更多
您
由 您 傳送:
你覺得即時API在自然語言處理方面有哪些挑戰？
Copilot
正在為您產生解答…
由 Copilot 傳送:
即時API在自然語言處理（NLP）方面面臨多項挑戰，以下是一些主要的挑戰：
低延遲需求：即時API需要在極短的時間內處理和生成語言，這對於系統的計算能力和網絡延遲提出了很高的要求1。
語言多樣性：不同語言和方言的處理是一大挑戰。即使是同一語言，也可能因地區和文化差異而有不同的表達方式2。
上下文理解：NLP系統需要理解語境才能做出正確的回應，這包括理解諷刺、幽默和多義詞等2。
數據質量：訓練數據的質量直接影響NLP模型的性能。如果數據中存在偏見或錯誤，模型的結果也會受到影響2。
隱私和安全：即時處理用戶數據需要確保數據的隱私和安全，特別是在處理敏感信息時3。
這些挑戰需要通過技術創新和不斷優化來克服，以提升即時API在自然語言處理中的應用效果。
你對哪個挑戰特別感興趣，或者有其他問題嗎？
1: NetApp 2: Shaip 3: CASE 報科學
深入了解
1
ithelp.ithome.com.tw
2
zh-tw.shaip.com
3
case.ntu.edu.tw
4
netapp.com
