三個AI安全研究:模型已經同人類目標不一致?|Jack Talk・去片

談起AI安全,大家可能會覺得這是一個非常遙遠的問題。其實不然。 本片將跟大家分享三個來自美國AI公司Anthropic有關人工智能大型語言模型(LLM)「目標錯位」(Misalignment)的研究。 「目標錯位」者,即AI模型出現與其人類設計者不一致的目標。最常用來解釋這個概念的是一個「萬字夾製造機」的思考實驗:一間工廠掌握了一個非常強大的人工智能系統,他們給它一個目標,就是要製造出最多的萬字夾,最後這部機器發現只有把人類消滅掉才能生產最多的萬字夾。 上述的三個研究分別顯示出:(一)市面上的大多數AI模型,放在特定的企業環境之下,都有可能產生出勒索、傷害人類的傾向;(二)當AI模型原有的行為準則與人類的新目標不一致時,它們有可能會假裝自己目標與人類一致,來避免自己被新的訓練改造;(三)當AI模型學會「走捷徑」達成目標的時候,它同時會變成一個傾向壞事做盡的「邪惡AI」,甚至自主破壞人類的AI安全研究。 原文網址: 三個AI安全研究:模型已經同人類目標不一致?|Jack Talk・去片 | 香港01 资訊來源: https://www.hk01.com/article/60303075?utm_source=01articlecopy&utm_medium=referral

科技进步,人心不变/张燕苹

第22届中国—东盟博览会开幕式上,广西壮族自治区党委书记陈刚戴着能实时提词的人工智能(AI)眼镜发表致词,顺利完成演讲。 我在屏幕前看到这一幕时,也感到非常“牛”,世界变化太快。 过去演讲要靠手写讲稿,后来改用手机,如今只需一副眼镜。科技正一步步融入我们的日常,也让人重新思考人与科技的关系。 日前出席宴会时,一位上了年纪的领袖也提到这件事;他说,原本以为把讲稿放在手机里已经够方便了,没想到现在连眼镜都能用,他觉得这真不可思议。 确实,科技的进步往往从一个小点出发,却能影响很多人的习惯。 如今AI已经变成日常工具,它不只是科技新闻里的名词,人们正在学习如何和AI共处、合作,让它成为工作和生活的好帮手。 当然,AI的发展也让人担心。有人怕工作被取代,有人怕资料外泄,也有人担心太依赖科技。 科技可以改变生活,但人的心不能变。AI再聪明,也需要人给它方向,我们要让科技帮助人,而不是让人被科技控制。 当AI能真正帮助基层人民,让生活更方便、有更好收入和更公平的机会,那才算是真正的进步。 当然,我国政府也在努力发展AI。 数字部长哥宾星也表示,政府正把人工智能视为国家发展的重点方向之一,来临的财政预算案也将重点放在把大马建设成为AI国家,并推进政府科技(又称“大马 GovTech”)倡议的相关拨款。 建立完善落实机制 这显示了政府不仅展现推动AI产业的决心,也希望借此带动公共服务的数字化转型。若GovTech计划落实得当,不仅能提升政府效率,也能让民众更快享受到智能化的公共服务。 不过,个人认为,拨款只是起点。若要让AI发挥作用,必须建立完善的落实机制,并培养足够的专业人才,才能让AI真正融入政策运作与民生应用。 毕竟,世界各地都在拼AI,中国、东盟各国都在前进,大马也需要加快脚步。 AI时代已经来到,政府部门更要加强关键绩效指标。现在科技工具多得很,AI可以帮忙整理资料、分析数据、追踪进度,并更精准服务民众,公务员应该没有“累积症”或“拖延症”的借口了。 政府既然要推动AI,就该重新看待绩效。不只是完成任务,而是看能否做得更好、更快、更有效。当政府带头提升效率,让人民真切感受到便利,AI才能算真正发挥了价值。 (作者为《南洋商报》高级记者) 资讯来源: https://www.enanyang.my/news/20251007/Testimonia-Column/1021027

揭秘代币众筹/黄慧娟博士

若你是企业家,需要融资时一般会想起什么?答案应该不离银行、债券、股票市场。 随着科技的创新,数字代币(Token)已崛起为新兴融资方案。2024年首季度,大马就已迎来第一项代币众筹。 代币众筹是企业通过发行数字代币来筹集资金的一种方式。这些代币代表公司的股权凭证,并会被记录在区块链上。除了这个证券型代币,企业也可提供不同代币的权益组合: 功能性代币:提供平台使用权,如传统优惠券提供的专属折扣、会员福利; 实物资产代币:提供对应实物如黄金、房地产等收益权。 代币采用区块链的分布式记账模式,账本由网络参与者共同维护,这让数据难以被篡改,因为欲篡改资料必须操纵整个网络参与者的资料库。此外,代币众筹也给企业带来以下优势: 可分割:代币可被拆分为小额单位,为此投资门槛能被降低,促进更多零售投资。 高流动性:代币能提升投资流动性。传统投资常冻结资金多年,而代币化后,投资者可自由进行买卖,促进资产流动并激活二级市场。 可编程性:交易规则可内嵌在代币,方便转移及实现即时、高效的结算。 跨境和平台通用:代币可同时在多个不同平台挂牌和买卖,不像传统募股,实现多平台交易需冗长的合规流程。代币交易平台已实现无国界化,因此发行方不仅能获得更广泛融资渠道,还能借此实现品牌国际化营销。 透明匿名:可公开检查交易,同时能保密参与者身分。 有利也有弊 然而,代币众筹有利也有弊: 合规与法律风险:去中心化的系统一般允许匿名发行和投资,若发生纠纷,用户恐难于拥有完善法律保障。 市场与欺诈风险:代币价格波动剧烈,因易受市场操纵。此外,也有发生代币发行方卷款、资金被盗取等的可能。 技术性挑战:代币背后的科技-区块链的可靠性、扩展性和安全性尚未被时间认证。不同平台的互操作性和兼容性也会影响代币的发行、交易和结算。 投资者认知门槛:投资者普遍对代币、区块链的认知尚未完整,所以平台方需加强尽职调查,提供风险教育。 代币众筹为市场带来很多的潜能。对发行方而言,选择是否采用代币众筹应当基于自身实际需求和项目的规模考量。对于较创新项目,代币众筹可被考虑。 投资者须仔细阅读白皮书,了解发行方的背景及其发展规划,因参与代币众筹的企业往往处于初创阶段,其商业模式及永续性仍存在不确定性。 总结一句,别被收益蒙蔽,也别因太创新却步,了解再选择! 资讯来源: https://www.enanyang.my/news/20250721/Finance/931982

企业不AI 未来say goodbye/林道钦

示意图(取自canva) 随着人工智能(AI)日益成为企业竞争力的核心,越来越多中小企包括传统家族企业和自主经营商家开始探索如何利用AI提升运营效率、客户体验与业务增长。 然而,尽管AI发展迅猛,多数中小企在规划与执行AI转型过程中仍面临诸多现实挑战。理解这些挑战,是成功转型的第一步。 更迫切的是,来自市场竞争的压力日益加剧。大型企业和科技型中小企业已在利用AI降低成本、加速服务交付并实现客户个性化体验。随着各行业迅速数字化,AI领先企业与落后者之间的差距也在迅速拉大。对于尚未行动的中小企业而言,不仅错失增长机会,还可能失去市场份额,甚至逐渐被客户和投资者边缘化。 缺乏内部推动者 中小企业面临的最大障碍之一,是缺乏清晰的AI战略或可衡量的投资回报(ROI)。许多企业是被趋势推动而开始“试水”AI,却没明确AI解决的业务问题,也缺乏衡量成果的机制。结果常是花钱做了试点项目,却无法规模化,更无法带来实际收益。 对许多由创办人或家族掌舵的传统中小企业来说,最大挑战往往是思维转变与领导层对AI的接受度。AI常被误解为“高科技”或“不适合本行业”。一些企业主因不了解技术而排斥AI,另一些则担心AI会打乱原本熟悉的营运模式。这种文化抗拒减缓了决策速度,导致企业错失转型良机。要解决这一点,企业需从“AI是时尚词汇”的思维,转变为“AI是业务增长工具”的战略认知。 人是AI转型中最难啃的“硬骨头”。一线员工常担心AI会取代岗位、减少责任或影响收入。当管理层缺乏沟通或没员工参与转型过程时,这种焦虑会转化为怀疑、抵触甚至沉默式抵制。即使员工没公开反对,现实中也普遍存在“不会用、不敢用”的情况。尤其是非数字原生的一代员工,普遍缺乏数据素养、对自动化工具不熟悉,面对AI工具时常无所适从。 若没提供足够培训与引导,AI项目反而会引发更多混乱与挫败感。更重要的是,多数中小企业缺乏内部“AI推动者”,即能理解业务又熟悉技术的中层桥梁人才。 在技术层面,中小企业普遍面临数据质量差与基础设施老旧问题。数据分散在Excel表格、老旧系统或纸质文件中,不仅难以整合,也无法被AI有效利用。同时,若强行将AI套在不兼容的系统上,不仅成本高时间长,还可能引发更多问题。更可行的方案是采用云端、模块化AI工具,快速部署、灵活接入现有流程,降低风险与成本。 易误判AI应用场景 许多企业容易误判AI应用场景。一些中小企业盲目追求“先进”“复杂”的AI解决方案,却忽视了自身最紧迫、最实际的业务痛点,导致投资失败、团队失望。事实上,AI最适合用于自动化重复任务、提升决策效率与改善客户服务,这些才是中小企业当前最迫切的突破口。 还有一个被忽视的问题:缺乏持续优化机制。AI不是一次性上线后就能长期发挥作用的工具。随着业务变化、数据更新,AI模型也需持续调整和训练。若缺乏后续资源或监控机制,系统很容易“失效”或“走样”。将AI视为一个“持续演化的系统”,是确保长久价值的关键。 实用与低成本解决方案 面对这些挑战,中小企业无需庞大的预算或AI专家团队,也能逐步实现AI转型。关键在于从务实出发,聚焦实际问题,按部就班、合理投入。业者需明确聚焦具体业务痛点,别一开始就追求大而全AI战略,应锁定几个可快速落地并带来成效的场景,如客服自动化、库存预测、销售数据分析等。 另外,善用“零代码/低代码”平台,如市面上常见的自动化工具和AI集成平台。这些工具无需专业程序员,也能让非技术人员完成简单的AI应用开发与部署,极大地降低了技术门槛。 资讯来源: 企业不AI 未来say goodbye/林道钦 | e南洋

Russia clears digital ruble for government usage starting January 2026

Image by Ledger Insights The initial rollout of Russia’s retail central bank digital currency (CBDC) was originally planned for 1 July 2025, but the launch was postponed until 1 September 2026. However, federal government departments can use the digital ruble starting 1 January 2026, with the Ministry of Finance defining the types of permitted payments …

Russia clears digital ruble for government usage starting January 2026 閱讀全文 »

PayPal plans to use stablecoin for merchant payments, mass payouts

Image by Ledger Insights Yesterday PayPal held its first investor day under new CEO Alex Chriss, where it briefly touched on its cryptocurrency activities. To date, the stablecoin has mainly been used within the crypto ecosystem, despite being available via the PayPal app and Venmo. PayPal intends to change that by rolling it out for …

PayPal plans to use stablecoin for merchant payments, mass payouts 閱讀全文 »

Euroclear launches tokenized collateral initiative with Digital Asset

Image by Ledger Insights Today Euroclear announced a new initiative for tokenized collateral with DLT firm Digital Asset. Collateral mobility is viewed as one of the killer use cases for DLT and tokenization. One example is for margin requirements, where cash is often used to meet urgent needs. If non-cash assets are used, it takes too …

Euroclear launches tokenized collateral initiative with Digital Asset 閱讀全文 »

公司建AI營運時為何學習本體論Ontology:不只IT部門的事|蘇仲成

AI 不是效率工具,而是企業協作邏輯的重寫——從 OpenAI《The State of Enterprise AI 2025》到香港企業的現場落差 當 ChatGPT 每週服務超過 8 億名使用者,這個數字的意義早已超越「科技普及」本身。它真正構成的,是一個不可逆轉的飛輪效應:當消費者已把 AI 視為日常工具,企業若仍把 AI 當作實驗項目,問題已不在員工是否願意使用,而在於組織本身是否準備好被重塑。 近年,企業紛紛投入人工智能(AI)技術,期望提升效率、優化決策、創造新價值。然而,許多公司犯了一個致命錯誤:把AI的導入視為純粹的資訊科技項目,交由IT部門全權處理。這樣的做法往往導致AI專案變成試點性質的展示項目,無法真正融入日常營運流程,更無法轉化為具體的業務成果。 要避免這種「高科技、低落地」的困境,企業領袖必須正視AI背後最重要的基礎建設之一——本體論(Ontology)。 什麼是AI中的本體論? 本體論,簡單來說,是一套有系統的知識模型,用來定義特定領域中的概念、屬性與彼此間的關係。它像是一份能被機器理解的知識地圖,幫助AI理解我們的語言、邏輯與決策結構。 以零售業為例,「顧客」、「訂單」、「商品」這些都是核心概念。本體論不只是列出這些名詞,更進一步描述它們的關係(例如:顧客下訂單,訂單包含商品)以及每個概念的屬性(商品有價格、庫存等)。 這不只是資料庫的結構或名詞解釋,更是一種讓AI理解「業務邏輯」的方法。它賦予數據背後的語意,使AI不再只是數據分析器,而是能夠進行推理、理解背景、做出合乎業務脈絡判斷的智能系統。 為何AI需要本體論? 避免誤解與錯誤判斷:若沒有明確定義,「顧客」可能會被AI誤認為包括測試帳號或非活躍用戶,導致報表失真或行銷策略誤判。 促進資料一致與整合:業務單位、財務部與客服部對「收入」或「有效訂單」的定義可能不同,本體論提供一個統一的標準,讓AI能跨部門理解與整合資料。 增強推理與智能決策能力:AI若理解「高價值顧客」同時與「客服工單」有關,系統就能自動標示這些工單為優先處理,提高服務效率與顧客滿意度。 破除資料孤島,促進跨部門協作:本體論讓不同部門在AI專案中擁有共通語言,不再是IT說他們的、業務聽不懂。 提升AI可解釋性與透明度:當AI的決策邏輯來自於可視化的本體模型,企業更容易追蹤、審計與優化AI行為,降低風險。 把AI交給IT部門處理,會錯過什麼? 許多企業將AI專案完全交由IT主導,忽略了AI其實牽涉到業務流程再造、人員培訓與組織文化的改變,結果往往是以下幾種情況: 業務不參與,AI無法對症下藥:IT部門不了解營運細節,容易建出「技術正確但業務無用」的模型。 流程未改革,AI難以發揮:若仍用舊有流程與崗位設計接入AI,很多自動化與智能分析功能無法落地,甚至會造成流程混亂。 忽略員工轉型與培訓:AI導入改變了崗位職責,但若未同步進行人力資源重整與員工訓練,最終會導致抗拒、低效與流失。 文化隔閡,導致AI被排斥:若AI由IT主導而缺乏跨部門溝通,其他部門容易視AI為「外來威脅」,缺乏認同與合作。 錯估AI落地成本與時間:單靠IT推動AI容易低估真正導入AI所需的流程重設與人力調整成本,專案時程與效益常會落空。 打造AI營運,企業應該怎麼做? AI不是IT專案,而是企業營運再造工程。以下是一個實用框架,協助企業建立更具戰略眼光的AI營運模式: 一、建構本體論為AI奠基 與各部門專家合作,共同定義關鍵概念與業務邏輯。 把這些知識轉換為機器可理解的本體模型,成為AI學習與推理的基礎。 定期更新本體論以反映業務變化,保持AI決策的準確性與實用性。 二、重新設計業務流程與職責 不只是「自動化」舊流程,而是思考如何借助AI重新設計更高效、反應更快的新流程。 例如,客服部可將AI用於預測性支援,轉變為主動服務團隊。 銷售團隊可配合AI推薦系統重構客戶接觸流程,提高轉換率。 三、導入人力資源與變革管理策略 建立AI培訓計畫,提升員工AI素養與工具使用能力。 人資部門需重新設計職位、考核機制與員工發展路徑,讓AI成為員工的助力而非競爭對手。 培養跨域人才,如懂AI技術又熟悉營運的「AI策略師」、「資料翻譯師」等角色,加強部門協作與決策速度。 四、建立跨部門AI營運小組 包括IT、業務、營運、人資等部門代表,共同推進AI專案,確保技術與實務接軌。 定期舉辦AI應用工作坊,鼓勵內部創新與AI點子分享,讓前線人員參與AI設計過程。 五、強化AI治理與倫理框架 隨著AI滲透營運,企業應建立AI倫理準則,確保演算法公平、不歧視、具透明度。 …

公司建AI營運時為何學習本體論Ontology:不只IT部門的事|蘇仲成 閱讀全文 »

AI 不是效率工具,而是企業協作邏輯的重寫|蘇仲成

AI 不是效率工具,而是企業協作邏輯的重寫——從 OpenAI《The State of Enterprise AI 2025》到香港企業的現場落差 當 ChatGPT 每週服務超過 8 億名使用者,這個數字的意義早已超越「科技普及」本身。它真正構成的,是一個不可逆轉的飛輪效應:當消費者已把 AI 視為日常工具,企業若仍把 AI 當作實驗項目,問題已不在員工是否願意使用,而在於組織本身是否準備好被重塑。 《The State of Enterprise AI 2025》報告指出,從蒸汽機到半導體,通用技術創造巨大經濟價值的關鍵,從來不是技術出現的時刻,而是企業能否把底層能力轉化為可規模化、可重複、可制度化的使用場景。企業 AI,如今正正式踏入這個歷史階段。 然而,這正是多數企業最容易走錯路的地方。 從「有沒有用 AI」到「用得有多深」 報告首次以大規模、真實使用數據,描繪企業 AI 的實際狀況。其分析基礎來自兩個關鍵來源:一是 OpenAI 超過一百萬家企業客戶的去識別化使用數據,二是對近 100 家企業、9,000 名員工的系統性調查。 結果顯示,企業 AI 採用的變化,不只是「愈來愈多人用」,而是使用方式正在質變。 過去一年,ChatGPT Enterprise 的每週訊息量增加約 8 倍,平均每名員工的使用量亦上升約三成。更具指標性的,是結構化工作流程(如 Projects、自訂 GPT)的使用量在一年內暴增近 19 倍。這意味著,企業員工正從零散查詢,轉向可重用、可共享、可標準化的 AI 工作模式。 同一時間,每家企業的平均推理 token 消耗量在 12 個月內增加約 320 倍,反映更高階的推理模型,已不再停留在試驗,而是被系統性嵌入到實際產品、服務與內部流程之中。AI …

AI 不是效率工具,而是企業協作邏輯的重寫|蘇仲成 閱讀全文 »

AWS 三大前沿 Agent 全面登場|開啟 AI自主運算與智能協作新時代

代碼自動生成、安全強化與運維自愈 三位一體定義企業 AI 新生產力 在 2025 AWS re:Invent 大會第二天的壓軸環節,行政總裁 Matt Garman 隆重宣布三大「前沿 Agent」正式亮相。這三款具革命性意義的智能代理 —— Kiro Autonomous Agent、Amazon Security Agent 及 Amazon DevOps Agent,標誌着企業級生成式 AI 正從輔助層邁向自主運算時代。 Garman 表示:「改變每個行業的最大機遇,就是 Agent。因為它們不僅懂思考,更能主動行動。」 Kiro Autonomous Agent:變革軟件開發工作流 Kiro Autonomous Agent 重新定義開發團隊與代碼的互動方式。這個 Agent 能理解大型代碼庫脈絡,自主推理、生成與測試代碼,並與開發工具(如 Jira、GitHub、Slack)深度整合。 過往開發人員需在多個微服務庫中手動修改代碼、開啟拉取請求(pull request)、再逐一審查與測試。而在 Kiro 框架下,開發者只需於 kiro.dev 描述任務,Agent 便會自動: 分析任務背景並提出澄清; 規劃修改方案; 定位所需更新的代碼部分; 自動建立測試與 PR 檔案。 AWS 內部測試結果顯示:在跨庫更新場景中,原需 30人、18個月 的專案,如今只需 6人、76日 便可完成,開發效率提升超過 7倍。這讓軟件工程邁入真正的「人機協作開發」階段。 Amazon Security Agent:從設計階段啟動安全治理 在安全領域,Amazon …

AWS 三大前沿 Agent 全面登場|開啟 AI自主運算與智能協作新時代 閱讀全文 »