是的，如果在上海灵活就业或自雇，无论是短期还是长期，都需要缴纳社保。根据相关规定，灵活就业人员必须缴纳社会保险费，包括养老保险、医疗保险、失业保险和工伤保险等。这些保险费用的缴纳将对未来的个人社保权益，包括基本养老金、医疗待遇等产生重要影响，非常关键。因此，建议灵活就业的人员要及时了解和缴纳社保，以确保个人的长期权益。