ภายหลังการก่อตั้งอาเซียนโดยปฏิญญากรุงเทพ (Bangkok Declaration) เมื่อวันที่ 8 สิงหาคม 2510 ได้มีการจัดทำกฎบัตรอาเซียน เพื่อรองรับการจัดตั้งประชาคมอาเซียน ซึ่งประเทศสมาชิกอาเซียนให้สัตยาบันกฎบัตรอาเซียน ครบทั้ง 10 ประเทศ เมื่อวันที่ 15 พฤศจิกายน 2551 (มีผลใช้บังคับเมื่อวันที่ 15 ธันวาคม 2551)
โดยกฎบัตรอาเซียนกำหนดโครงสร้างและกลไกบริหารงานของอาเซียน ให้ประเทศสมาชิกอาเซียนแต่งตั้งผู้แทนระดับเอกอัครราชทูตปฏิบัติหน้าที่ผู้แทนในคณะผู้แทนถาวรประจำอาเซียน ณ กรุงจาการ์ตา เป็นการเฉพาะ โดยไม่ดำรงตำแหน่งเอกอัครราชทูตประจำอินโดนีเซียควบคู่ไปด้วย

ดังนั้น เมื่อวันที่ 2 ธันวาคม 2551 คณะรัฐมนตรีไทยจึงได้อนุมัติการจัดตั้งคณะผู้แทนถาวรไทยประจำอาเซียน ณ กรุงจาการ์ตา สาธารณรัฐอินโดนีเซีย โดยมีภารกิจหลักด้านการดูแล ปกป้อง และส่งเสริมผลประโยชน์ของไทยในอาเซียน ประสานงานเกี่ยวกับกิจกรรม โครงการด้านความร่วมมือต่าง ๆ ของอาเซียน และสนับสนุน
การปฏิบัติงานของกลไกต่าง ๆ ภายในอาเซียน 

ต่อมาเมื่อปี 2552 รัฐบาลไทยได้แต่งตั้ง นายเปี่ยมศักดิ์ มิลินทจินดา ดำรงตำแหน่ง เอกอัครราชทูต ผู้แทนถาวรไทยประจำอาเซียนคนแรก โดยในระยะแรก คณะผู้แทนถาวรไทยประจำอาเซียน ณ กรุงจาการ์ตาได้เช่าสำนักงานในอาคาร Pacific Place ถนน Jenderal Sudirman เพื่อใช้เป็นสถานที่ทำการชั่วคราวและได้ย้ายไปอาคาร Sentral Senayan ถนน Asia Afrika ในปีเดียวกัน ทั้งนี้ ต่อมาในปี 2563 ได้ย้ายสถานที่ทำการมายังอาคารเลขที่ 74 ถนน Imam Bonjol ซึ่งเป็นที่ตั้งสถานที่ทำการของคณะผู้แทนถาวรฯ ในปัจจุบัน

อนึ่ง สถานที่ทำการของคณะผู้แทนถาวรฯ ตั้งอยู่ในย่าน Menteng ซึ่งเป็นย่านที่อยู่อาศัยและธุรกิจในเขตกรุงจาการ์ตากลาง เป็นที่ดินพร้อมอาคาร ในเนื้อที่ 1,550 ตรม. ซึ่งรัฐบาลไทยซื้อมาเมื่อปี 2497 ในราคา 225,000 รูเปียห์ (ประมาณ 500 บาท) โดยเป็นการซื้อสิทธิในการใช้ประโยชน์จากที่ดินในระยะยาว ไม่ใช่การซื้อขายกรรมสิทธิ์เด็ดขาด เนื่องจากกฎหมายที่ดินฉบับปี ค.ศ. 1960 ของอินโดนีเซียไม่อนุญาตให้ต่างชาติถือครองกรรมสิทธิ์ที่ดิน โดยอาคารดังกล่าวถูกใช้เป็นบ้านพักของเอกอัครราชทูตไทยประจำอินโดนีเซียในช่วงแรก และต่อมาในปี 2518 ได้เปลี่ยนเป็นที่ทำการสถานเอกอัครราชทูตไทย ณ กรุงจาการ์ตา

สถานเอกอัครราชทูตฯ ย้ายออกจากอาคารหลังนี้ในเดือนสิงหาคม 2555 ไปเปิดทำการในสถานที่ใหม่ ต่อมาในเดือนเมษายน 2561 รัฐบาลไทยได้ก่อสร้างอาคารหลังใหม่โดยคงรูปแบบทางสถาปัตยกรรมเดิมไว้ เพื่อเป็นที่ทำการคณะผู้แทนถาวรฯ นับแต่เดือนกุมภาพันธ์ 2563 สืบมา

คณะผู้แทนถาวรไทยประจำอาเซียน

ตุลาคม 2567