สมัยโบราณ
จากการค้นคว้าทางโบราณคดีพบว่ามีผู้อาศัยอยู่บนหมู่เกาะญี่ปุ่นกว่า 100,000 ปีมาแล้ว ตั้งแต่ครั้งยังเป็นส่วนหนึ่งของผืนแผ่นดินทวีปเอเชีย คนโบราณที่อาศัยอยู่ในหมู่เกาะญี่ปุ่นในยุคหินเก่า (Paleolithic) หาเลี้ยงชีพด้วยการล่าสัตว์ และเก็บของป่า ในยุคหินใหม่ (Neolithic) เมื่อประมาณ 10,000 ปีที่แล้วก็ได้มีการผลิตเครื่องมือเครื่องใช้ที่ทำจากหินด้วยความประณีต มีการพัฒนาวิธีการล่าสัตว์โดยใช้คันธนูและลูกธนู ตลอดจนมีการผลิตภาชนะเครื่องปั้นดินเผาใส่อาหารและเก็บรักษาอาหาร ยุคประมาณ 8,000 ปี ถึง 300 ปี ก่อนคริสตศักราชเรียกว่า สมัยโจมน ตามรูปแบบเครื่องปั้นดินเผาโจมนที่มีลวดลายเป็นเชือก
ประมาณ 300 ปีก่อนคริสตศักราช ผู้คนที่อาศัยอยู่ในหมู่เกาะญี่ปุ่นได้เริ่มเรียนรู้การทำการเกษตร ได้แก่ การปลูกข้าวเป็นอันดับแรกและวิธีการทำเครื่องใช้โลหะจากทวีปเอเชีย ชาวญี่ปุ่นใช้เครื่องมือเครื่องใช้ทำด้วยเหล็กที่ใช้ในการเพาะปลูกในชีวิตประจำวัน เพื่อเพิ่มผลผลิตทางการเกษตร และใช้ดาบที่ทำด้วยทองแดงและกระจกในการประกอบพิธีกรรมทางศาสนา การจัดแบ่งงานทำให้ช่องว่างระหว่างผู้ปกครองดินแดนและผู้อยู่ใต้การปกครองกว้างขึ้น ในช่วงนี้รัฐเล็กๆ จำนวนมากได้ก่อตัวขึ้นทั่วประเทศ ยุคสมัยระหว่าง 300 ปีก่อนคริสตศักราชจนถึง ค.ศ.300 เรียกว่า สมัยยาโยอิ ตามเครื่องปั้นดินเผาที่ใช้แกนหมุนในการขึ้นรูปที่ผลิตกันในช่วงเวลานั้น
รัฐเล็กๆ เหล่านั้นค่อยๆ รวมตัวกัน และในศตวรรษที่ 4 กลุ่มผู้มีความเข้มแข็งทางการเมืองซึ่งมีศูนย์กลางอยู่ที่ยามาโตะ (ปัจจุบันคือจังหวัดนารา) ได้มีอำนาจปกครองประเทศตั้งแต่ศตวรรษที่ 4 จนถึงศตวรรษที่ 6 มีการพัฒนาทางด้านเกษตรกรรมขนานใหญ่ และวัฒนธรรมจีนรวมทั้งลัทธิขงจื๊อและศาสนาพุทธได้เผยแพร่เข้ามาในประเทศญี่ปุ่นผ่านทางเกาหลี ถึงปลายศตวรรษที่ 4 ได้มีการติดต่อระหว่างญี่ปุ่นกับอาณาจักรบนคาบสมุทรเกาหลี ศิลป อุตสาหกรรมต่างๆ เช่น การทอผ้า งานโลหะ การฟอกหนัง และการต่อเรือ ซึ่งแต่แรกเริ่มมีการพัฒนาในประเทศจีนภายใต้ราชวงศ์ฮั่นได้เริ่มเข้ามาในประเทศญี่ปุ่นโดยผ่านทางเกาหลี
ญี่ปุ่นได้รับเอาตัวอักษรแบบจีนซึ่งมีรากฐานมาจากอักษรภาพมาใช้ และโดยผ่านทางสื่อตัวอักษรนี้เอง ชาวญี่ปุ่นได้เรียนความรู้เบื้องต้นทางการแพทย์ การใช้ปฏิทินและดาราศาสตร์ ตลอดจนปรัชญาของลัทธิขงจื๊อ ศาสนาพุทธได้เข้ามาในญี่ปุ่นเป็นครั้งแรกในปี ค.ศ.538 จากประเทศอินเดียโดยผ่านทางจีนและเกาหลี ผู้ปกครองประเทศญี่ปุ่นได้ถือระบบการปกครองของจีนเป็นแนวทางในการสร้างระบบการปกครองของตน
เมืองหลวงถาวรแห่งแรกของญี่ปุ่นได้รับการสถาปนาขึ้นที่เมืองนาราในตอนต้นศตวรรษที่ 8 เป็นเวลานานกว่า 70 ปี คือตั้งแต่ ค.ศ.710 ถึง ค.ศ.784 พระราชวงศ์อิมพีเรียลของญี่ปุ่นประทับอยู่ที่เมืองนาราโดยตลอดและขยายอำนาจไปทั่วประเทศทีละน้อย ก่อนหน้านั้นได้มีการย้ายเมืองหลวงซึ่งเป็นที่ประทับบ่อยครั้งภายในเขตแดนที่ในปัจจุบันคือเมืองนารา เกียวโต และโอซากา
เมืองหลวงใหม่ซึ่งเลียนแบบเมืองหลวงของประเทศจีนในสมัยนั้น ได้รับการสถาปนาที่เมืองเกียวโตเมื่อปี ค.ศ.794 และได้เป็นที่ประทับของพระราชวงศ์เป็นเวลานานเกือบ 1,000 ปี การย้ายเมืองหลวงไปอยู่ที่เมืองเกียวโต นับเป็นจุดเริ่มต้นของสมัยเฮอันซึ่งดำรงอยู่ต่อมาจนถึง ค.ศ.1192 และเป็นสมัยที่ยิ่งใหญ่ที่สุดสมัยหนึ่งของการพัฒนาทางด้านศิลปะในประเทศญี่ปุ่น การติดต่อกับประเทศจีนหยุดชะงักลงในช่วงปลายศตวรรษที่ 9 และอารยธรรมญี่ปุ่นเริ่มที่จะมีลักษณะและรูปแบบเป็นของตนเอง
สิ่งเหล่านี้นับเป็นกระบวนการของการผสมกลมกลืนและการปรับเปลี่ยน โดยที่สิ่งต่างๆ ซึ่งญี่ปุ่นรับมาจากภายนอกค่อยๆ กลายเป็นรูปแบบของญี่ปุ่นไปโดยปริยาย ตัวอย่างที่เห็นได้โดยทั่วไปของกระบวนการนี้ คือการพัฒนาของตัวอักษรญี่ปุ่นในสมัยเฮอัน ความซับซ้อนของการเขียนของจีนทำให้นักเขียนและพระคิดค้นรูปพยางค์ขึ้นสองระบบโดยยึดรูปแบบอย่างของจีน ภายในกลางสมัยเฮอัน ได้มีการปรับปรุงพยัญชนะที่เรียกกันว่า คานะ (kana) และนำมาใช้กันอย่างกว้างขวาง นับเป็นการเปิดทางให้แก่งานเขียนที่มีรูปแบบเป็นของญี่ปุ่นอย่างแท้จริง และมีการใช้กันอย่างแพร่หลายแทนถ้อยคำสำนวนที่ยืมมาจากภาษาจีน
ชีวิตในเมืองหลวงเป็นชีวิตที่หรูหราและสะดวกสบาย ขณะที่ราชสำนักใช้เวลาทั้งหมดไปกับศิลปะและความสุขทางสังคม อำนาจที่เคยมีเหนือกลุ่มที่มีอิทธิพลทางการทหารในหัวเมืองต่างๆ ก็เริ่มจะคลอนแคลน อำนาจในการควบคุมอาณาจักรอย่างมีประสิทธิภาพได้หลุดมือไป และได้กลายเป็นสิ่งล่อใจสำหรับสองตระกูลทหารที่เป็นปรปักษ์ต่อกัน ได้แก่ ตระกูล มินะโมะโตะและไทระ ซึ่งเป็นตระกูลที่สืบทอดเชื้อสายมาจากจักรพรรดิองค์ก่อนๆทั้งสองตระกูล ตระกูลมินะโมะโตะและไทระได้ต่อสู้ในการรบที่โด่งดังที่สุด และมีความรุนแรงมากในยุคกลางอันวุ่นวายสับสนของญี่ปุ่น ในที่สุดตระกูลมินะโมะโตะเป็นฝ่ายชนะสงคราม โดยได้ทำลายล้างตระกูลไทระจนพินาศในศึกดันโนอุระ (Battle of Dannoura) อันเกริกก้องและเลื่องลือ ในการรบกันที่ทะเลอินแลนด์ใน ค.ศ.1185
