1991年4月，Sun公司成立了Green專案小組,專攻智慧家電的嵌入式控制系統。由James Gosling博士領導的綠色計劃（Green Project）開始啟動，此計劃的目的是開發一種能夠在各種消費性電子產品（如機頂盒、冰箱、收音機等）上執行的程式架構。這個計劃的產品就是Java語言的前身：Oak（橡樹）。Oak當時在消費品市場上並不算成功，但隨著1995年網際網路潮流的興起，Oak迅速找到了最適合自己發展的市場定位並蛻變成為Java語言。

1995年5月23日，Oak語言改名為Java，並且在SunWorld大會上正式釋出Java 1.0版本。Java語言第一次提出了“Write Once，Run Anywhere”的口號。

1996年4月，10個最主要的作業系統供應商申明將在其產品中嵌入Java技術。同年9月，已有大約8.3萬個網頁應用了Java技術來製作。在1996年5月底，Sun公司於美國舊金山舉行了首屆JavaOne大會，從此JavaOne成為全世界數百萬Java語言開發者每年一度的技術盛會。

1998年12月8日，Java 2企業平臺J2EE釋出 (J2EE1.2)

1999年4月27日，HotSpot虛擬機發布，HotSpot最初由一家名為“Longview Technologies”的小公司開發，因為HotSpot的優異表現，這家公司在1997年被Sun公司收購了。HotSpot虛擬機發布時是作為JDK 1.2的附加程式提供的，後來它成為了JDK 1.3及之後所有版本的Sun JDK的預設虛擬機器。

1999年6月，釋出Java的三個版本：J2SE、J2EE、J2ME

2005年6月，Java SE6.0釋出，J2EE更名為Java EE，J2SE更名為Java SE，J2ME更名為Java ME

2009年4月20日，Oracle公司宣佈正式以74億美元的價格收購Sun公司，Java商標從此正式歸Oracle所有（Java語言本身並不屬於哪間公司所有，它由JCP組織進行管理，儘管JCP主要是由Sun公司或者說Oracle公司所領導的）。由於此前Oracle公司已經收購了另外一家大型的中介軟體企業BEA公司，在完成對Sun公司的收購之後，Oracle公司分別從BEA和Sun中取得了目前三大商業虛擬機器的其中兩個：JRockit和HotSpot，Oracle公司宣佈在未來1～2年的時間內，將把這兩個優秀的虛擬機器互相取長補短，最終合二為一。可以預見在不久的將來，Java虛擬機器技術將會產生相當巨大的變化。

2011年7月28日，Oracle公司釋出Java SE 1.7

2014年3月18日，Oracle公司發表Java SE 1.8，代表性技術包括：Lambda表示式、函式式介面、方法引用和構造器呼叫、Stream API、介面中的預設方法和靜態方法、Optional 類、新時間日期API等

2017年9月21日，JDK 1.9釋出，代表性技術包括：Java 平臺級模組系統，Linking，JShell （互動式 Java REPL），改進的 Javadoc，改進的 Stream API，集合工廠方法，私有介面方法，HTTP/2，多版本相容 JAR。

2018年3月14日，JDK 1.10釋出。