근대 올림픽 대회의 첫번째 경기였던 아테네 올림픽 대회는 13개국 280여 명의 선수가 참가한 가운데 거행되었다. 당시의 선수들은 모두 남성이었다. 육상·사이클·수영·체조·역도·레슬링·펜싱·사격·테니스 등 모두 43종목의 경기가 치러졌다. 도시는 온통 퍼레이드와 연회로 뒤덮였으며 축제 분위기였다. 개막일에는 6만명으로 추정되는 많은 관중들이 운집하였다. 그리스 왕족이 올림픽 대회의 유치와 진행에 직접 많은 역할을 수행했으며 10일 이상 경기를 참관하였다. 경기는 원하는 사람이면 누구나 참가할 수 있었기 때문에 기록은 그다지 좋지 않았다. 선수 중에는 여행 도중 갑자기 경기에 참여한 사람도 있었다. 국가대표팀이란 것은 없었고 대부분의 선수들은 대학 대표이거나 올림픽 대회라는 새로운 경기에 참여해 보고 싶었던 클럽 소속 선수들이었다.     

 육상 경기는 판아테이아 스타디움(판아테이아 축제가 열렸던 장소)에서 개최되었다. 판아테이아 스타디움은 원래 BC 330년에 건축되었던 것으로 1896년 올림픽 대회가 열리기 전에는 폐허에 가까운 상태였으나 그리스 건축가 게오르기오스 아베로프의 재정적 지원과 설계하에 흰 대리석으로 재건축되었다. 당시 육상 트랙의 모양은 요즘과는 달리 대단히 길쭉했었기 때문에 코너에 해당하는 트랙 부위가 예각을 이루고 있었다. 따라서 선수들은 레인에서 벗어나지 않기 위해서 속도를 줄일 수밖에 없었다. 육상경기는 미국 선수들이 두각을 나타냈는데 12개 종목 중 9개 종목을 휩쓸었다. 수영 종목은 날씨가 쌀쌀한 가운데 지 만(灣)에서 거행되었다. 헝가리의 알프레드 호조슈는 수영 4종목 중 2종목을, 프랑스의 폴 마송은 6개의 사이클 종목 가운데 3개를 제패하였다.

 1896년 올림픽 대회에서는 첫번째 마라톤대회가 거행되었다. 이 경주는 프랑스인 미셸 브레알에 의해서 구상되었는데 BC 490년 적군을 물리쳤다는 소식을 전하기 위해 마라톤에서 아테네까지 페이디피데스가 달렸던 그 길을 선수들이 다시 달리는 것이었다. 마라톤 경주는 올림픽 대회의 하이라이트였다. 이 대회에서는 그리스의 스피로스 루이스가 우승했는데 그는 이 우승으로 국민적 영웅으로 떠올랐다.