1961年倪光南從南京工學院畢業後被分配到中國科學院計算技術研究所工作。
1964年作為外部裝置外掛組長參與吳幾康主持研製的119機研製專案成功，該專案全國科技大會獎。
1968年參與717機顯示器研製。
1981年至1983年在加拿大國家研究院做訪問研究員
1984年中國科學院計算技術研究所為轉化科技成果，投資創辦了計算技術研究所公司，倪光南出任聯想集團首任總工程師，主持開發了聯想式漢字系統，於1988年獲國家科技進步一等獎。
1989年11月計算所公司改名為聯想集團公司，此後倪光南擔任公司董事兼總工，主持開發了聯想系列微機，確立了公司的主營業務，於1992年獲國家科技進步一等獎。
1994年以後，多次舉報反映公司問題，驚動國家有關部門和有關領導，舉報的領導平安無事，他待不下去了，1995年的6月30日，聯想董事會宣佈，倪光南總工程師和董事的職務被解除，“技工貿”和“貿工技”的紛爭也落下了帷幕。會後，倪光南鎮定自若地離席，離開了11年風雨同舟的夥伴。
1984年，倪光南初入聯想時，整個公司只有11個人，45歲的倪光南受邀加入了聯想的初創團隊。
他在三年的時間裡研發出了8種型號的聯想漢卡，幫助聯想實現了500%的增速，用3年的時間達到了近億的產值。
倪光南無事，他不想放棄工作 ，想專注科研的決心。
1999年，李德磊找上了失意的倪光南，尋求BBT日後的發展方向。BBT是李德磊創辦的晶片製造公司，也是方舟科技的前身，此時國內的晶片領域還處於空白狀態，BBT正在打造一支專注計算機主機的隊伍，這次是在美國停止為BBT提供外包服務後，李德磊想向倪光南尋求幫助。BBT團隊專注做技術的理念打動了倪光南，他幫李德磊找資源、找政府，希望能重啟。
2001年，倪光南正式以戰略市場部門總裁的職位加入了方舟，並在同年帶領團隊研發出了“方舟1號”，解決中國卡脖子難題。
政府部門十分重視方舟此次的技術突破，開始向方舟投入資金和人力。
但只想賺錢的李德磊，倪光南還是和李德磊各奔前程
，離開了方舟。倪光南在方舟的“晶片夢”也就此覆滅。
倪光南在歷經了兩個公司的挫折後，把精力放在了推廣國產晶片、軟體、作業系統等事情上。
他是 網路安全的問題專家，其實早在事件發生前，他就不止一次的提醒有關部門。
如今，82歲的倪光南院士仍未放棄對科研事業的堅持。雖然早已離開一線多年，但只要是有益於自主創新和網路安全的事，倪光南不遺餘力的幫助年輕人去攻堅克難。
