倫理一般是指一系列指導行為的觀念，是從概念角度上對道德現象的哲學思考。它不僅包含著對人與人、人與社會和人與自然之間關系處理中的行為規范，而且也深刻地蘊涵著依照一定原則來規范行為的深刻道理。
近日，100多名行業精英發表了一份給聯合國（United Nations，UN）的公開信，主要內容是關于危險系數極高的人工智能武器，或者說是“機器人殺手”。這些人中包括世界著名企業家伊隆·馬斯克（ElonMusk）和幾家機器人公司的創始人。從2015年開始，他們就給聯合國發送公開信，最初的目的是結束軍備競賽。在此次公開信中稱人工智能武器為“繼火藥和核武器之后的第三次革命”。
對人工智能和自主系統的研究，聯合國理應有所作為。但從未來發展的角度來講，實驗室應起到主要的作用。在培養人工智能研究人員時，道德觀念和程序編碼一樣重要。
人工智能的自主性
自主系統在沒有人類輸入指令的情況下，可以自己做出決定，這大大增加了機器人和類似設備的實用性。例如，交付無人機（Delivery Drone）只需要確定送貨地址，就可以自行規劃最佳路線，克服在途中遇到的任何障礙，如惡劣天氣或一群路過的海鷗等。
研究人員已經花費了大量時間和精力研究自主系統，目前亞馬遜（Amazon）等公司正致力于開發交付無人機。顯然，相同的技術可以很容易地應用到各個行業，而不是僅僅用來運輸食品或書籍。
無人機越來越小，越來越耐用，成本也越來越低。這意味著生產和部署數以千計的無人機飛行部隊是可行的。正是部署自主系統武器的可能性，促成了發給聯合國的這封公開信，目的是希望“尋求一種避免人工智能武器所帶來的危險的方式”。
自主系統需要道德準則
且不論自主系統武器的危險性如何，先來談一談人工智能研究中的倫理問題。在大多數科學領域中，如果要對世界知識做出突出貢獻，研究人員一般需要側重于某一特定主題。但是他們通常在相對狹窄的領域是專家，對于道德準則或道德推理，卻缺少相應的規范。
道德準則越來越受到人們的重視。例如，測試中的無人駕駛汽車需要能夠對潛在的危險情況做出判斷。當一只貓突然穿過馬路時，它應該如何反應？是應該不管貓的死活繼續前行呢，還是要急轉彎以免對貓或者車上的乘客造成傷害？
當然，這種情況誰都不希望發生，但是在設計無人駕駛汽車時需要設計一些具體的原則來指導其決策。正如維吉尼亞·迪格納穆（Virginia Dignum）在墨西哥舉行的國際人工智能聯合會議（InternationalJoint Conference on Artificial
Intelligence，IJCAI）上發表“自主系統需要責任感”（ResponsibleAutonomy）演講時所說：“無人駕駛汽車需要道德準則，這件事應當由誰來做呢？”
在納溫·孫達爾·戈文達拉朱魯（Naveen Sundar Govindarajulu）和塞爾默·布林斯約爾德（Selmer Bringsjord）的論文《自主系統的雙重效應》（ Automating theDoctrineof Double Effect）中也對類似主題進行了探討。雙重效應原則是對特定情況下的自衛權等道德問題的一種推理方式，在13世紀被天主教學者托馬斯·阿奎那（Thomas Aquinas）記載并流傳至今。
托馬斯·阿奎那
雙重效應的名稱來源于處理道德問題過程中會獲得好的效果（例如拯救某人的生命）以及不良影響（在過程中傷害他人）。它可以為無人駕駛汽車在道路行進過程中出現的問題提供一種道德準則。
對教育的意義
倫理問題儼然成為人工智能研究的一個主題，那么當人工智能產品越來越普及時，教育體系也要順應時代發展做出改變。
當今社會最需要的人才是“T型”人才。公司在招聘新員工時，不僅僅是尋找在特定領域有深入研究的人才（T的垂直筆畫），還需要具有良好的專業技能和個人素養（T的水平筆畫）?？偟膩碇v，“T型”人才能夠從多種角度看待問題，并能夠有效的適應多元化團隊。
大多數計算機科學和類似學科的本科課程包括職業道德和實踐課程，這些通常側重于知識產權，版權，專利和隱私問題等。但這些在處理人工智能問題上是遠遠不夠的。在國際人工智能聯合會議上，科學家們的討論重點是關于“現在越來越需要更廣泛的道德問題的補充材料”。這些補充材料的主題可以包括確定兩個錯誤行為中影響較小的方法，明確法律概念如過失犯罪，以及技術對社會的歷史影響等。
最關鍵的一點是使畢業生從一開始就能夠將道德問題和社會觀點融入他們的工作。當然，還需要進一步研究確定如何將道德問題納入教育體制。
隨著人工智能越來越深入日常生活，研究人員必須明確他們的發明對所處的社會可能帶來的影響。倫理問題是科學研究的附加問題，為了科研的順利展開，為了社會安全和人類利益，倫理問題已經是一個科學工作者必須考慮的問題。
?