Международная ассоциация федераций легкой атлетики была основана в 1912 году представителями 17 национальных федераций легкой атлетики, по мнению которых требовалось создание управляющего органа для организации международных соревнований по легкой атлетике, стандартизации легкоатлетического оборудования и регистрации мировых рекордов. Участники конгресса рассматривали легкую атлетику как средство улучшения качества жизни, и в основе создания Ассоциации прежде всего лежат принципы гуманизма.

В 1982 году IAAF отказалась от своего многолетнего статуса организации любительского спорта и в 1985 году создала трастовый фонд для спортсменов. Таким образом, была открыта дорога к достижению высоких результатов для большого числа одаренных спортсменов. Постепенно спортсмены-любители переквалифицировались в профессионалов самого высокого уровня. В 1997 году была введена система Вознаграждений за победу в соревнованиях, которые впервые в истории IAAF включали в себя денежные призы.
Развитие прикладных направлений спортивной науки, усовершенствование оборудования, внедрение новых методов тренировочного процесса и проведения соревнований привнесли дополнительные изменения в спортивную жизнь.
Переход к профессиональному спорту получил еще одно признание в 2001 году, когда единогласным голосованием на Конгрессе IAAF было принято решении о переименовании организации в Международную ассоциацию федераций легкой атлетики.

В настоящее время штаб-квартира IAAF располагается в Монако. Штат организации включает в себя более семидесяти иностранных специалистов.
Количество федераций, принятых в члены ассоциации, резко увеличилось с 17-ти в 1912 году до 213-ти в 2008 году. Все федерации раз в два года приглашаются к участию в Конгрессе IAAF с проведением голосования при четном количестве участников. Несмотря на то, что раньше функционирование организации было обусловлено регламентом голосования, принимавшим решения в пользу более обеспеченных и развитых стран, в 1987 году IAAF окончательно приняла демократический принцип голосования: одна страна – один голос.
На данный момент в состав IAAF входят шесть Групп ассоциаций, разделенных по географическому признаку. Содействие работе Совета, осуществляющего руководство всеми делами IAAF по широкому кругу возложенных на него вопросов оказывают шесть Комитетов и восемь комиссий.

До конца 70-х годов чествование легкой атлетики происходило только раз в четыре года на Олимпийских играх.
В наши дни, официальная программа проводимых IAAF соревнований, включает в себя Чемпионаты мира, Чемпионаты мира среди юниоров, Молодежные чемпионаты миры, Чемпионаты мира в крытых залах, Кубок мира, Чемпионаты мира по кроссу, Кубок мира по спортивной ходьбе, Чемпионаты мира по полумарафону, Чемпионаты мира по шведской эстафете, Международная золотая лига/Этап гран-при, Международная золотая лига/Финал этапа гран-при, Международный этап по кроссу и Турнир по многоборью. Кроме этого проведение различных соревнований на европейском уровне свидетельствует о расширении деятельности IAAF. Соревнования по четырнадцати видам спорта и спартакиады, включая Олимпийские игры, проводятся на всех континентах, где легкая атлетика фигурирует в качестве основного вида спорта. Кроме этого множество других соревнований и первенств проводятся на национальном и местном уровнях.

В 2003 году Конгресс IAAF утвердил включение Горного Бега в перечень спортивных дисциплин, регулируемых IAAF.