直訳すると「私が意味していることが理解できていますか？」という意味です。 これは説明している途中でひと息ついて、今まで言ったことに相手がついてこれているかどうかを確認する言い方です。同様の言い方として、
Are you following me?
話についてこれていますか？
Are you with me?
ついてこれていますか？
もあり、これらも正解ですが、You know what I mean? は歌の歌詞にもよくでてくるように、言いやすく、会話をスムーズに運ぶ重要な言い方です。
なお、Do you understand what I just said? は文法的に正しいですが、丁寧すぎて日常会話ではあまり使われません。
また“わかりましたか？”と過去形できく時はGot it? ( You have got it? の略)
が良く使われます。