ولد العفيف الأخضر في قرية مكثر لعائلة من الفلاحين. في طفولته، راوده الانتحار لعلّه يتخلّص من بؤس الفقراء. دخل المدرسة مصادفة كما يروي عنه صقر أبو فخر «كان يرافق ابن صاحب الأرض التي يعمل فيها والده إلى المدرسة وينتظره في الصقيع ليعيده إلى البيت بعد نهاية الدروس. وأشفق عليه ناظر المدرسة وأدخله أحد الصفوف، فإذا به يحفظ الدروس بسرعة». مثل موت والده في عمر الـ 13 صدمة له، ليبحث عن وجهه في فقراء الفلاحين «كلما رأيت فلاحاً ركضت لأنظر إليه من أمام عسى أن يكون هو أبي الذي دفنته بنفسي في مقبرة القرية». وجد الأخضر ضالته في الشيخ بن عاشور أستاذه في التعليم الثانوي، ثم تماهى مع طه حسين، أبيه الروحي، «إلى درجة الذوبان». أما أبوه السياسي، فقد اكتشفه في الزعيم الراحل الحبيب بورقيبة، وخصوصاً بعدما أصدر قوانين الأحوال الشخصية، ولكن سرعان ما قتله بسبب تفرده بالحكم وولائه للغرب كما يقول.
التحق بـ «جامع الزيتونة» ثم بكلية الحقوق ومارس المحاماة بين 1957 و1961. حتى شارك في الدفاع عن صالح النجار الذي حكم عليه بالإعدام بتهمة محاولة اغتيال الحبيب بورقيبة، لكنه لم ينجح في إنقاذه، ففرضت عليه الإقامة الجبرية عام 1958، إلّا أنّه استطاع الفرار. تنقل بين الأردن وبيروت حاملاً لواء المقاومة الفلسطينية التي انتقدها إثر خروجها من الأردن. مع بداية الحرب الأهلية عام 1975، غادر لبنان الى فرنسا. أما ما دفعه إلى اعتناق الماركسية عام 1963، فهو فقره، و«غريزة طبقية فقط» وفد اليها من الوجودية والناصرية، وقد ترسخت آراؤه حين كان في الجزائر التي رفعت لواء الاشتراكية بعد الاستقلال. بعد الانقلاب العسكري على الرئيس بن بلة عام 1965، زار العفيف الأخضر تشيكوسلوفاكيا وألمانيا الشرقية، فلم يجد الجنة الاشتراكية، بل مجتمعاً في معتقل. بعدها دخل في سجال عنيف مع الأحزاب الشيوعية العربية، فاتهموه عام 1967 بالعمالة لألمانيا الغربية، وكتب بعدها مقالات نقدية عن الماركسية اللينينية. انتقل من الماركسية الى الليبرالية، ووجه انتقادات إلى الرأسمالية المعاصرة التي اعتبرها غير قابلة للبقاء إذا لم تدخل عليها الإنسانية المفكرة.
وضمن الإطار العربي، يُعد العفيف الأخضر أحد أبرز دعاة الحداثة والديمقراطية والعلمانية، وإصلاح التعليم الديني الظلامي، والمساواة، منتقداً الحركات الإسلامية. ولم يستبشر خيراً بالثورة الاسلامية في ايران بل رآها كـ «انبعاث للسلفية». وبعد أحداث 11 أيلول 2001، كان من أوائل دعاة تجفيف منابع الفكر الأصولي الإرهابي.
إلى جانب ترجمة «البيان الشيوعي»، وضع مؤلفات عدة منها «التنظيم الثوري الحديث» (1972)، و«الموقف من الدين» (1973)، وكتب عشرات المقالات في الصحف العربية والأجنبية، إضافة إلى كتاب نشره على حلقات في موقعي «الأوان» و«الحوار المتمدن» بعنوان «من محمد الإيمان الى محمد التاريخ» حيث حاول انتشال الرسول من الأسطورة إلى الواقع مستنداً في ذلك إلى التحليل النفسي.
قبل أن يتخذ قرار الانتحار، أرسل الى صديقه الكاتب والمؤرخ فواز طرابلسي نسخة إلكترونية من كتابه الجديد، مرفقاً بجملة «عزيزي فواز، أنا متعب، هذا كتابي الأخير، شكراً. العفيف الأخضر».