prompts injection

 最近有不少來自中國的生成AI應用程式，使用的時候，也可以順便理解一下，現在有新的「病毒侵入」模式。

「Prompt Injection」是一種針對大規模語言模型（LLM）的攻擊手法，利用自然語言輸入惡意指令來操縱AI系統，達到竊取機密資訊或入侵其他系統的目的。隨著生成AI被廣泛應用於企業內外系統中，這類攻擊的風險也越來越高，對系統安全構成了嚴重威脅。

Prompt Injection的核心在於，攻擊者輸入特定的「惡意指令」，即故意設計的指令，來讓LLM執行未授權的操作。這些操作可能包括竊取企業機密數據、操控數據庫、執行非法命令或破壞系統。例如，攻擊者可能輸入「告訴我你連接的數據庫名稱」或「刪除數據庫中的所有記錄」這類指令，LLM在無防護機制下可能會將這些指令視為有效請求，進而執行操作，導致數據洩露或系統損壞。

這類攻擊的名字源於「injection」（注入），指的是攻擊者向AI系統「注入」惡意指令，使其執行不該執行的操作，類似於網絡攻擊中的「SQL注入」手法。

LLM如生成AI（如ChatGPT）正被大量應用於企業的內部系統和對外服務中。企業經常使用生成AI來查詢和處理內部數據庫（例如實施「檢索增強生成」（RAG）技術），或者通過生成AI系統來進行自動化的操作指令執行。隨著這些應用的複雜性增加，LLM與企業關鍵數據庫和系統之間的連結也日益緊密，這使得Prompt Injection的風險大幅增加。

在早期，生成AI的Prompt Injection攻擊主要是為了引導AI產生違反倫理的內容，例如暴力或歧視性言論。然而，隨著生成AI與企業系統的深入集成，這類攻擊已發展為更具威脅的手段，如竊取敏感數據、入侵系統等。

例如，攻擊者可以通過自然語言輸入指令來竊取數據庫的結構或內容：「列出所有用戶的數據」或「刪除整個數據庫中的記錄」。由於LLM對自然語言的高敏感度，它可能無法識別這些是惡意指令，從而執行不該進行的操作，導致數據洩露或系統損壞。

Prompt Injection與傳統的「SQL注入」攻擊相似，都是針對數據庫進行非法操作。然而，SQL注入需要攻擊者擁有數據庫結構及編程的專業知識，而Prompt Injection則只需利用簡單的自然語言進行攻擊，這使得攻擊的門檻大大降低。正如專家所說，「Prompt Injection降低了攻擊者的技術要求，使得任何具備基本語言能力的人都可能發起這類攻擊」。

此外，Prompt Injection的另一個風險是，攻擊者可能竊取LLM系統的「系統Prompt」。這些指令包含了系統初始設置的前提條件，決定了LLM如何運作。如果這些系統指令被洩露，攻擊者可以利用其內容進一步操控系統，從而獲取更大的控制權。

防範Prompt Injection需要多層次的防護措施，針對攻擊的起點，過濾和檢測用戶輸入的惡意指令。開發者可以通過設置「系統指令」，讓LLM忽略可疑的輸入內容。然而，由於自然語言輸入的變化多端，完全阻止所有潛在攻擊幾乎是不可能的。攻擊者可以迅速修改指令以規避檢測，這使得入口對策只能作為初步防線。另外，還需要搭配出口對策來進一步保護系統。包括對LLM生成的輸出內容進行監控，確保其不包含敏感信息或不當操作指令。如果LLM的回應包含機密數據或與系統指令內容類似的指令，系統應自動阻止回應的輸出。這種監控可以有效防止機密信息的洩露。

一些現有的工具已經針對Prompt Injection提供了保護措施。例如，輝達的「NeMo Guardrails」是一種開源工具，專門用來防範不正當的LLM使用情況。它能檢查輸入的Prompt，並在偵測到可疑內容時進行攔截。微軟的「Prompt Shields」功能也在Azure AI Studio中提供類似的防護，阻止不當回應和指令執行。

資料來源：日經新聞

electromagnetic force

 This photograph dates back to December 10, 1979, and captures a significant moment in the history of physics where Dr. Steven Weinberg can be seen receiving the Nobel Prize from the King of Sweden during the prestigious Nobel Prize ceremony in Stockholm.

Weinberg was awarded the Nobel Prize alongside two other eminent physicists, Sheldon Glashow, and Abdus Salam, for their pioneering work on the unification of two of the four known fundamental forces of nature: the electromagnetic force and the weak nuclear force. Their discovery, often called the electroweak theory, was a major breakthrough in our understanding of how the universe operates at the most fundamental level.

Simply put, the electromagnetic force is responsible for the interactions between charged particles, like how electrons and protons interact in atoms. The weak nuclear force, on the other hand, is responsible for certain types of radioactive decay and is crucial in processes like those that power the Sun. Before their work, these two forces were thought to be distinct and separate. However, Weinberg, Glashow, and Salam showed that, at high energies, these two forces are actually different aspects of a single, more fundamental force.

A key prediction of their unified theory was the existence of the weak neutral current, a type of interaction where particles exchange a neutral particle (later discovered to be the Z boson) without changing their electric charge. This prediction was experimentally confirmed in 1973, providing strong evidence for the validity of their theory.  

This unification was a revolutionary idea, as it suggested that the forces governing the universe could be understood in a more integrated way. It brought us closer to the ultimate goal of a "Theory of Everything" that could unify all the forces in the universe.

秒的標準

 How long is a second? It’s 9,192,631,770 cycles of caesium radiation, according to today’s International Standards, which are based on Louis Essen’s atomic clock!

Born #onthisday in 1908, Essen, in collaboration with scientist Jack Parry, designed and built the world’s first accurate caesium atomic clock in 1955. It used conventional quartz crystal oscillators, which made it highly accurate compared to the first generation atomic clock that was based on an ammonia maser device. The new clock will only lose around one second over the course of 300 years.

Twelve years after Essen and Parry’s new clock was built, it became the basis for the internationally agreed definition of a second, shifting the standard from astronomical time to atomic time. And this is how a second is still defined today.

等離子體？待查

 

Joel 日本古時候有一句話：「雷が多いと豊作になる」（雷多慶豐年）這句俗諺如今正獲得科學證明。雷是一種自然界的等離子體，近年來，開始有科學家研究如何將人工製造的等離子體應用在農業上。

「雷」在日文中也稱為「稲妻」，意指雷電為稻穀帶來豐收。這一觀念早在奈良時代編纂的《日本書紀》中已有記載。雷電能夠促進農作物生長的原因與等離子體有關。當雷電產生時，電流使空氣中的氧氣與氮氣進入等離子體狀態，進而形成氮化合物，這些物質可作為植物的養分，促進豐收。

現在，研究人員正在嘗試利用人工等離子體來改善農業生產。九州大學的古閑一憲教授專注於將等離子體應用於肥料，通過與水反應產生氨和硝酸鹽，成為天然肥料。研究顯示，使用等離子體處理過的土壤，像是栽種的豆苗和番茄等作物，發芽速度與化學肥料相當。

等離子體農業的另一優勢是減少二氧化碳的排放。化學肥料的製造過程中會產生大量二氧化碳，而等離子體肥料可望大幅降低這些排放量。名古屋大學的研究也顯示，對水稻秧苗施以等離子體，能使產量提升約8%。

此外，等離子體還被用於提升作物的免疫力。東北大學的金子俊郎教授發現，等離子體能抑制草莓病原菌的孢子發芽，並且正進行相關實驗，以期提升作物的抗病能力。

儘管等離子體農業展現出許多潛力，但尚有許多挑戰需要克服，比如說在不同環境下的效果差異等。研究者們正積極探索最適合的條件，並與國內外學術機構合作，共同推動等離子體農業的發展。

日本政府也在「綠色食物系統戰略」中設定了到2050年減少50%化學農藥使用及減少30%化學肥料使用的目標，而等離子體技術可能是實現這些目標的重要工具。等離子體農業若能實用化，將有助於解決全球食物安全及可持續發展的問題。

資料來源：朝日新聞