Annesi Çiğdem (Simavi) ve babası Rahmi Koç’un en küçük oğludur. Ömer Koç, Mustafa Koç isminde ağabeyleri vardır.

Londra’da 1980 yılında başladığı Harrow School’dan 1985 yılında mezun oldu. 1989 yılında ABD. Houston Teksas’taki Rice Üniversitesi’nden lisans diplomasını aldı. 1995 – 1997 yılları ortasında ABD. Boston, Massachusetts Harvard Üniversitesi’nde yüksek lisans yaptı. ABD’de çeşitli kuruluşlarda çalıştı ve Koç Holding AŞ yönetim kurulu üyesi kurumsal irtibat ve bilgi grubu başkanı oldu.

1986 yılının yazında Otosan A.Ş. Ford Motor Company’nin iştiraki ile araba montaj sınırında çalıştı. 1987 ve 1988 yazlarında Koç Holding, A.Ş. Otomotiv Grubu’na bağlı olarak araba üretimi ve bayii ağı ile çalıştı. Bayii çalışmalarının tekrar yapılanması periyodunda üst idare ile çalıştı. 1990 yazında J.P. Morgan, New York, NY Stajerlik yaptı.

1990-1991 tarihleri ortasında American Express Bank’ta Yönetici Yetiştirme Programı’na dahil olmuş, 1991-1992 yılları ortasında Ramerica Internatio1992-1994 yılları ortasında Morgan Stanley Yatırım Bankası’nda Analist olarak çalışmıştır.

1997 -2000 yılları ortası Koç Holding A.Ş. Stratejik Planlama Kümesi Başkanlığı’na Bağlı Yeni İş Geliştirme Koordinatörü olarak vazife yaptı. 2000 yılından itibaren de Koç Topluluğu Bilgi Grubu Yürütme Komitesi Başkanı Koç Holding A.Ş.Yeni İş Geliştirme Koordinatörüdür.

2006 yılından itibaren Koç Holding Kurumsal Bağlantı ve Bilgi Kümesi Başkanlığı misyonunu yürütmektedir. 2008 Ocak ayından bu yana Koç Holding Yönetim Kurulu Üyesi olan Ali Y. Koç, 2009 yılından bu yana Tüpraş Yönetim Kurulu Üyesi’dir.

Ali Y. Koç, 1992 yılında askerlik vazifesini yaptı.

Fenerbahçe Spor Kulübü’nde İki periyot yöneticilik yaptı.

Ali Koç, ABD. Houston Teksas’taki Rice Üniversitesi’nde iktisat ve iş yönetimi eğitimi almakta iken, tekrar birebir ülkede eğitim gören Nevbahar Demirağ ile tanışmıştı.

Ali Koç, 21 Ekim 2005 tarihinde Nevbahar Demirağ ile evlendi. Sadberk Leyla Koç (d.2006) ve Kerim Rahmi Koç (d.2008) isminde bir kızı bir oğlu vardır.