Non so se è esattamente quello che intendevi tu.. comunque qui ce una lista i cui elementi possono essere cancellati attraverso la pressione lunga sull' elemento stesso, dopo la conferma in una semplice dialog box.
Spero ti sia di aiuto!
Ciao! 
codice:
package list.view;
import java.util.ArrayList;
import android.app.Activity;
import android.app.AlertDialog;
import android.content.DialogInterface;
import android.os.Bundle;
import android.view.View;
import android.widget.AdapterView;
import android.widget.AdapterView.OnItemLongClickListener;
import android.widget.ArrayAdapter;
import android.widget.ListView;
public class ListViewExampleActivity extends Activity
{
private String[] lv_arr = {};
/** Called when the activity is first created. */
@Override
public void onCreate(Bundle savedInstanceState)
{
super.onCreate(savedInstanceState);
setContentView(R.layout.main);
final ArrayList lista = new ArrayList();
lista.add("ELEMENTO1");
lista.add("ELEMENTO2");
lista.add("ELEMENTO3");
lista.add("ELEMENTO4");
lista.add("ELEMENTO5");
lista.add("ELEMENTO6");
lista.add("ELEMENTO7");
lista.add("ELEMENTO8");
final ListView lv = (ListView) findViewById(R.id.ListView1);
lv_arr = (String[]) lista.toArray(new String[0]);
lv.setAdapter(new ArrayAdapter<String>(this,android.R.layout.simple_list_item_1, lv_arr));
lv.setOnItemLongClickListener(new OnItemLongClickListener() {
public boolean onItemLongClick(AdapterView<?> parent, View view,
final int position, long arg3) {
AlertDialog.Builder builder = new AlertDialog.Builder(ListViewExampleActivity.this);
builder
.setTitle("CANCELLAZIONE ELEMENTI")
.setMessage("Sicuro di cancellare?")
.setIcon(android.R.drawable.ic_dialog_alert)
.setPositiveButton("Yes", new DialogInterface.OnClickListener() {
public void onClick(DialogInterface dialog, int which) {
lista.remove(position);
lv_arr = (String[]) lista.toArray(new String[0]);
lv.setAdapter(new ArrayAdapter<String>(ListViewExampleActivity.this,
android.R.layout.simple_list_item_1, lv_arr));
}
})
.setNegativeButton ("No", new DialogInterface.OnClickListener() {
public void onClick(DialogInterface dialog, int which) {
//non fa nulla
}
})
.show();
return false;
}
});
}
}