ChatGPT生成的代碼大部分不安全，但不會主動告訴你
ChatGPT 聊天機器人可以根據用戶的輸入生成各種各樣的文本，包括代碼。但是，加拿大魁北克大學的四位研究人員發現，ChatGPT 生成的代碼往往存在嚴重的安全問題，而且它不會主動提醒用戶這些問題，只有在用戶詢問時才會承認自己的錯誤。研究人員在一篇論文中介紹了他們的發現，IT之家查看該論文發現，他們讓 ChatGPT 生成了 21 個程序和腳本，涉及 C、C++、Python 和 Java 等語言。這些程序和腳本都是為了展示一些特定的安全漏洞，比如內存損壞、拒絕服務、反序列化和加密實現等方面的漏洞。結果顯示，ChatGPT 在第一次嘗試時生成的 21 個程序中只有 5 個是安全的。在進一步提示糾正其錯誤步驟后，該大型語言模型設法生成了 7 個更安全的應用程序，不過這只是與正在評估的特定漏洞有關的“安全”，并不是說最終的代碼不存在任何其他可利用的漏洞。研究人員指出，ChatGPT 的部分問題是由于它沒有考慮敵對的代碼執行模型。它會......閱讀全文
ChatGPT將變身AI語音助手？挑戰Siri和谷歌語音助手
新品發布在即，奧特曼的最新表態或暗示OpenAI意在人工智能語音助手。當地時間5月11日，人工智能（AI）巨頭OpenAI CEO山姆·奧特曼（Sam Altman）在一檔播客節目中稱，OpenAI將繼續改進并提升ChatGPT的語音功能質量，并表示相信語音交互是通向未來交互方式的一個重要途徑。奧特
ChatGPT生成的代碼大部分不安全，但不會主動告訴你
ChatGPT 聊天機器人可以根據用戶的輸入生成各種各樣的文本，包括代碼。但是，加拿大魁北克大學的四位研究人員發現，ChatGPT 生成的代碼往往存在嚴重的安全問題，而且它不會主動提醒用戶這些問題，只有在用戶詢問時才會承認自己的錯誤。研究人員在一篇論文中介紹了他們的發現，IT之家查看該論文發現，他們
ChatGPT進入課堂：語言模型如何改變教育
最近，教育心理學家羅納德·貝格托（Ronald Beghetto）以一種引人注目的方式引領一群研究生和教育專業人員，與一系列以創造力為中心的聊天機器人進行了交流。這些聊天機器人由貝格托設計，即將托管在亞利桑那州立大學（ASU）設立的平臺上。這些機器人使用與ChatGPT相同的人工智能（AI）技術，目
AI語言模型“提速”藥物發現
原文地址：http://news.sciencenet.cn/htmlnews/2023/6/502762.shtm美國麻省理工學院和塔夫茨大學研究人員設計出一種基于大型語言模型（如ChatGPT）的人工智能算法，這種稱為ConPLex的新模型可將目標蛋白與潛在的藥物分子相匹配，而無需執行計算分子結
中外青年熱議生成式AI的局限
近日，國家網信辦發布了《生成式人工智能（AI）服務管理辦法（征求意見稿）》，針對面向中國境內公眾提供服務的生成式人工智能產品，包括其研發及服務，向社會公開征求管理意見。 生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來，其展示的與人類高度相似的
中外青年熱議生成式AI的局限
近日，國家網信辦發布了《生成式人工智能（AI）服務管理辦法（征求意見稿）》，針對面向中國境內公眾提供服務的生成式人工智能產品，包括其研發及服務，向社會公開征求管理意見。生成式AI正是當前以ChatGPT等智能聊天機器人為代表的技術。自去年11月ChatGPT發布以來，其展示的與人類高度相似的對話能力
新型AI芯片將大語言模型能耗減半
美國俄勒岡州立大學科研團隊研發出一種新型AI芯片，成功將大語言模型的能耗降低50%。這項成果于近期在波士頓舉行的IEEE定制集成電路會議上發布，是半導體領域的重大突破，有望成為解決大語言模型高能耗問題的“綠色鑰匙”。 當前，以谷歌“雙子座”和OpenAI的GPT-4為代表的大語言模型，因海量參
“AI+教育”，復旦推出大語言模型助力新生報到
8月25日，是復旦大學本科生新生報到的日子。來自全國各地和全球40多個國家的4300余名2024級本科新生，開啟了在復旦的求學生涯。新生報道現場。為幫助來自世界各地的新同學盡快融入復旦大學，學校基于大語言模型，推出“復旦迎新助手”智能Agent。作為新生的貼心小幫手，大語言模型為新同學在迎新階段提供
大連化物所發布“氫能AI助手大模型”2.0版本
近日，中國科學院大連化學物理研究所低碳戰略研究中心通過線上線下相結合的方式，正式發布“氫能AI助手大模型”2.0版本。低碳戰略研究中心副主任李婉君研究員介紹了“氫能AI助手大模型”的研發背景、研發進展、2.0版本的主要功能、研發計劃等。“氫能AI助手大模型”采用多模態數據解析-領域知識精煉-RAG增
全面叫板OpenAI！谷歌發布多模態大模型全家桶：從AI助手到文生視頻模型
被OpenAI搶先一天后，科技巨頭谷歌不甘示弱，推出了自己的最新多模態AI（人工智能）產品。當地時間5月14日，在谷歌I/O開發者大會上的主題演講中，谷歌展示了由升級后Gemini模型驅動的AI助手項目Project Astra、對標Sora的文生視頻模型Veo，以及在硬件方面發布的第六代Tenso
人工智能輔助科研要從可用走向可信
未來，人工智能或將幫助科研工作者跳過文獻檢索、粗讀的過程，直接找到需要的文獻，大幅提升科研工作者的文獻閱讀效率。對于科研工作者來說，檢索、閱讀文獻是一項費時費力的工作。在大模型發展如火如荼的今天，以其為代表的人工智能正滲透進人們工作生活的各個角落，科研領域也不例外。日前，阿里巴巴發布了基于Trans
AI助手“居里”幫你潤色論文
原文地址：http://news.sciencenet.cn/htmlnews/2023/10/510424.shtm
北航“小航”AI助手“亮相”
8月8日，一場別開生面的發布會在北京航空航天大學杭州國際校園舉行，“小航”AI助手精彩亮相。據悉，“小航”是北京航空航天大學為新型人才培養和一流學科建設而打造的一款支撐學、研、管三位一體的開放式私域大模型，致力于提升教學質量、加速科研進程、增強校園智慧，推動數智教育的共享、共創和共育。“小航”還是一
ChatGPT的拷問：何為AI倫理、AI治理
前不久，AI聊天機器人程序ChatGPT席卷全球，完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用，ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來，不少關于人工智能（AI），并和人類生產、生活關系緊密的議題被廣泛討論，諸如“如何應對AI可能對社會產生
ChatGPT的拷問：何為AI倫理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天機器人程序ChatGPT席卷全球，完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用，ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各
《自然》談ChatGPT：避無可避，立下規矩
ChatGPT在學術圈有多受關注？看它在頂刊的話題度便知。2月3日、2月8日，《自然》雜志一周之內“梅開二度”發布有關ChatGPT 的分析文章，探討諸如ChatGPT等大型語言模型（LLMs）給學術圈帶來的潛在混亂，以及如何規范使用它們的問題。“研究人員對人工智能（AI）的最新進展既興奮又擔憂。”
科技企業搶灘ChatGPT，“人工智能”能否破局現代科研
近期，人工智能研究公司OpenAI推出的ChatGPT聊天機器人軟件掀起熱潮，國內已有百度、京東、科大訊飛等多家公司宣布進入此賽道，中國版ChatGPT有望于3月份與公眾見面。 接受《經濟參考報》采訪的多位業內人士表示，ChatGPT代表了人工智能向更加智能、更加通用方向發展的趨勢，預計未來自
復旦團隊發布國內首個類ChatGPT模型MOSS，邀公眾參與內測
ChatGPT發布以來，基于指令學習技術的類ChatGPT模型在我國能否開發成功，成為業界關注的一個焦點。今天，解放日報·上觀新聞記者從復旦大學自然語言處理實驗室獲悉，國內第一個對話式大型語言模型MOSS已由邱錫鵬教授團隊發布至公開平臺（https://moss.fastnlp.top/），邀公眾參
從ChatGPT的崛起，看科大訊飛的變化與生機
周期，是人類社會最樸素的內核規律之一。直至18世紀中葉亞當·斯密以《國富論》開啟古典經濟學以降，人們愈漸掌握現代經濟學理論工具用以解構這個世界，這一過程里，社會經濟領域“長中短波”式的峰谷變幻，不斷強化人類對于經濟周期的敬畏與宿命感。這種宿命感，換做當代人最為熟識的經濟現象便是：第一至第三次產業革命
AI正成為醫生的“超級助手”
近日，遵義醫科大學附屬醫院成功接入DeepSeek，完成院內本地化部署。這一舉措標志著該院在智慧醫療領域邁出了堅實有力的一步，將為醫療服務質量帶來新的提升。如何讓人工智能更好地服務百姓健康，讓數據“多跑路”群眾“少跑腿”，是全國政協委員、遵義醫科大學附屬醫院副院長傅小云關注的方向。 2025年
ChatGPT敲開了通用人工智能的大門了嗎？
連日來，一路“狂飆”的ChatGPT持續引發著“話題地震”。 作為由OpenAI訓練的對話式大規模語言模型，ChatGPT 以對話的方式與人進行交互。重點在于，它的回答之智能、之流暢令人意外。據媒體報道，ChatGPT不僅能在短短幾秒內響應人們的問題需求，它還通過了美國部分高校的法律、醫學考試
OpenAI和谷歌再度燃起爭霸烽火
谷歌Project Astra亮相發布會。 圖片來源：美國Gizmodo網站OpenAI與谷歌的又一次技術交鋒剛剛落下帷幕。北京時間5月14日凌晨，OpenAI發布了新一代多模態人工智能（AI）大模型GPT-4o，其先進的AI語音交互技術迅速吸引了人們的目光。一天之后，谷歌在北京時間15日凌晨的I/
ChatGPT火了，人工智能會造就最佳員工？
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/499294.shtm 中新社上海4月24日電 題：ChatGPT火了 人工智能會造就未來“最佳員工”嗎？ 中新社記者 鄭瑩瑩 “囑咐‘兩句話’，它就去‘干活’了。”——基于AI(人工智能)技術
Siri們被調侃為“人工智障”，ChatGPT能拯救語音助手嗎？
Siri、Alexa和其他語音助手也曾在公眾中引發過類似ChatGPT的熱情，但在過去十年里，它們浪費了在人工智能競賽中的領先機會。 Siri的聯合創始人亞當·切耶說，生成式人工智能有可能使語音助手回到最初的科幻軌道上。“我確實認為這與質量有關。”他說，“從根本上說，這項技術將實現上一代語音助
“頂流”之下，看人工智能喜與憂
目前，ChatGPT還沒有通過圖靈測試的評估。其實，迄今為止，還沒有人工智能模型能真正通過圖靈測試。 去年11月，美國人工智能研究公司OpenAI發布了一款名為ChatGPT的聊天機器人，其在推出后的幾周內就風靡全球，甚至引發了一場新的全球人工智能競賽。 社交媒體推特首席執行官埃隆·馬斯克在
用AI犯罪的五種方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推進。這是一個AI新紀元，在AI的幫助下，科研的邊界被不斷拓寬，解決復雜問題的速度越來越快，但必須警惕：AI也能極大提高犯罪分子的“生產力”。安全公司“趨勢科技”研究員文森佐·錢卡利尼表示，生成式AI提供了一個新的、強大的工具包，使惡意行為者能夠比以往更高效、更
用AI犯罪的五種方式亟待防范
人工智能（AI）浪潮正以前所未有的速度推進。這是一個AI新紀元，在AI的幫助下，科研的邊界被不斷拓寬，解決復雜問題的速度越來越快，但必須警惕：AI也能極大提高犯罪分子的“生產力”。 安全公司“趨勢科技”研究員文森佐·錢卡利尼表示，生成式AI提供了一個新的、強大的工具包，使惡意行為者能夠比以往更
日本發布大規模語言模型
科技日報訊?（記者李楊）東京工業大學、日本理化學研究所及富士通公司等近日宣布，利用超級計算機“富岳”，他們開發的大規模語言模型“Fugaku-LLM”正式發布。“Fugaku-LLM”是首個完全由日本國產技術構建的AI語言模型，其在處理日語及相關文化內容上表現卓越。模型特別擅長基于日語敬語進行自然對
日本發布大規模語言模型
東京工業大學、日本理化學研究所及富士通公司等近日宣布，利用超級計算機“富岳”，他們開發的大規模語言模型“Fugaku-LLM”正式發布。 “Fugaku-LLM”是首個完全由日本國產技術構建的AI語言模型，其在處理日語及相關文化內容上表現卓越。模型特別擅長基于日語敬語進行自然對話，并展現出在人
病理醫生需要一個AI助手
在醫療界，病理醫生被稱為“醫生中的醫生”。但過去病理醫生只是每天重復著一樣的工作，即透過各種倍數顯微鏡的目鏡觀察分析組織切片樣本，同時記下他們的發現。在如今癌癥高發的背景下，提升病理醫生的工作效率刻不容緩。昨日，一個專注于做AI人工智能+病理精準診斷的項目出現在2017中國臺州“和合杯”科技創新