make sure all programs are 8-byte aligned
[bpt/guile.git] / libguile / vm-i-system.c
index e8410f7..b2cdca5 100644 (file)
@@ -1,43 +1,21 @@
-/* Copyright (C) 2001 Free Software Foundation, Inc.
- *
- * This program is free software; you can redistribute it and/or modify
- * it under the terms of the GNU General Public License as published by
- * the Free Software Foundation; either version 2, or (at your option)
- * any later version.
- * 
- * This program is distributed in the hope that it will be useful,
- * but WITHOUT ANY WARRANTY; without even the implied warranty of
- * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
- * GNU General Public License for more details.
+/* Copyright (C) 2001,2008,2009 Free Software Foundation, Inc.
  * 
- * You should have received a copy of the GNU General Public License
- * along with this software; see the file COPYING.  If not, write to
- * the Free Software Foundation, Inc., 59 Temple Place, Suite 330,
- * Boston, MA 02111-1307 USA
- *
- * As a special exception, the Free Software Foundation gives permission
- * for additional uses of the text contained in its release of GUILE.
- *
- * The exception is that, if you link the GUILE library with other files
- * to produce an executable, this does not by itself cause the
- * resulting executable to be covered by the GNU General Public License.
- * Your use of that executable is in no way restricted on account of
- * linking the GUILE library code into it.
- *
- * This exception does not however invalidate any other reasons why
- * the executable file might be covered by the GNU General Public License.
+ * This library is free software; you can redistribute it and/or
+ * modify it under the terms of the GNU Lesser General Public License
+ * as published by the Free Software Foundation; either version 3 of
+ * the License, or (at your option) any later version.
  *
- * This exception applies only to the code released by the
- * Free Software Foundation under the name GUILE.  If you copy
- * code from other Free Software Foundation releases into a copy of
- * GUILE, as the General Public License permits, the exception does
- * not apply to the code that you add in this way.  To avoid misleading
- * anyone as to the status of such modified files, you must delete
- * this exception notice from them.
+ * This library is distributed in the hope that it will be useful, but
+ * WITHOUT ANY WARRANTY; without even the implied warranty of
+ * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
+ * Lesser General Public License for more details.
  *
- * If you write modifications of your own for GUILE, it is your choice
- * whether to permit this exception to apply to your modifications.
- * If you do not wish that, delete this exception notice.  */
+ * You should have received a copy of the GNU Lesser General Public
+ * License along with this library; if not, write to the Free Software
+ * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
+ * 02110-1301 USA
+ */
+
 
 /* This file is included in vm_engine.c */
 
  * Basic operations
  */
 
-/* This must be the first instruction! */
-VM_DEFINE_INSTRUCTION (nop, "nop", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (0, nop, "nop", 0, 0, 0)
 {
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (halt, "halt", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (1, halt, "halt", 0, 0, 0)
 {
-  SCM ret;
   vp->time += scm_c_get_internal_run_time () - start_time;
   HALT_HOOK ();
-  POP (ret);
-  FREE_FRAME ();
-  SYNC_ALL ();
-  vp->ip = NULL;
-  scm_dynwind_end ();
-  return ret;
+  nvalues = SCM_I_INUM (*sp--);
+  NULLSTACK (1);
+  if (nvalues == 1)
+    POP (finish_args);
+  else
+    {
+      POP_LIST (nvalues);
+      POP (finish_args);
+      SYNC_REGISTER ();
+      finish_args = scm_values (finish_args);
+    }
+    
+  {
+    ASSERT (sp == stack_base);
+    ASSERT (stack_base == SCM_FRAME_UPPER_ADDRESS (fp) - 1);
+
+    /* Restore registers */
+    sp = SCM_FRAME_LOWER_ADDRESS (fp) - 1;
+    ip = NULL;
+    fp = SCM_FRAME_DYNAMIC_LINK (fp);
+    NULLSTACK (stack_base - sp);
+  }
+  
+  goto vm_done;
 }
 
-VM_DEFINE_INSTRUCTION (break, "break", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (2, break, "break", 0, 0, 0)
 {
   BREAK_HOOK ();
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (drop, "drop", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (3, drop, "drop", 0, 1, 0)
 {
   DROP ();
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (mark, "mark", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (4, mark, "mark", 0, 0, 1)
 {
   PUSH (SCM_UNDEFINED);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (dup, "dup", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (5, dup, "dup", 0, 0, 1)
 {
   SCM x = *sp;
   PUSH (x);
@@ -95,49 +89,49 @@ VM_DEFINE_INSTRUCTION (dup, "dup", 0, 0, 1)
  * Object creation
  */
 
-VM_DEFINE_INSTRUCTION (void, "void", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (6, void, "void", 0, 0, 1)
 {
   PUSH (SCM_UNSPECIFIED);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_true, "make-true", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (7, make_true, "make-true", 0, 0, 1)
 {
   PUSH (SCM_BOOL_T);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_false, "make-false", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (8, make_false, "make-false", 0, 0, 1)
 {
   PUSH (SCM_BOOL_F);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_eol, "make-eol", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (9, make_eol, "make-eol", 0, 0, 1)
 {
   PUSH (SCM_EOL);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_int8, "make-int8", 1, 0, 1)
+VM_DEFINE_INSTRUCTION (10, make_int8, "make-int8", 1, 0, 1)
 {
   PUSH (SCM_I_MAKINUM ((signed char) FETCH ()));
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_int8_0, "make-int8:0", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (11, make_int8_0, "make-int8:0", 0, 0, 1)
 {
   PUSH (SCM_INUM0);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_int8_1, "make-int8:1", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (12, make_int8_1, "make-int8:1", 0, 0, 1)
 {
   PUSH (SCM_I_MAKINUM (1));
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_int16, "make-int16", 2, 0, 1)
+VM_DEFINE_INSTRUCTION (13, make_int16, "make-int16", 2, 0, 1)
 {
   int h = FETCH ();
   int l = FETCH ();
@@ -145,13 +139,43 @@ VM_DEFINE_INSTRUCTION (make_int16, "make-int16", 2, 0, 1)
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (make_char8, "make-char8", 1, 0, 1)
+VM_DEFINE_INSTRUCTION (14, make_int64, "make-int64", 8, 0, 1)
+{
+  scm_t_uint64 v = 0;
+  v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  PUSH (scm_from_int64 ((scm_t_int64) v));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (15, make_uint64, "make-uint64", 8, 0, 1)
+{
+  scm_t_uint64 v = 0;
+  v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  v <<= 8; v += FETCH ();
+  PUSH (scm_from_uint64 (v));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (16, make_char8, "make-char8", 1, 0, 1)
 {
   PUSH (SCM_MAKE_CHAR (FETCH ()));
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (list, "list", 2, -1, 1)
+VM_DEFINE_INSTRUCTION (17, list, "list", 2, -1, 1)
 {
   unsigned h = FETCH ();
   unsigned l = FETCH ();
@@ -160,35 +184,49 @@ VM_DEFINE_INSTRUCTION (list, "list", 2, -1, 1)
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (vector, "vector", 2, -1, 1)
+VM_DEFINE_INSTRUCTION (18, vector, "vector", 2, -1, 1)
 {
   unsigned h = FETCH ();
   unsigned l = FETCH ();
   unsigned len = ((h << 8) + l);
-  POP_LIST (len);
-  *sp = scm_vector (*sp);
+  SCM vect;
+  
+  SYNC_REGISTER ();
+  sp++; sp -= len;
+  CHECK_UNDERFLOW ();
+  vect = scm_make_vector (scm_from_uint (len), SCM_BOOL_F);
+  memcpy (SCM_I_VECTOR_WELTS(vect), sp, sizeof(SCM) * len);
+  NULLSTACK (len);
+  *sp = vect;
+
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (list_mark, "list-mark", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (19, list_mark, "list-mark", 0, 0, 0)
 {
   POP_LIST_MARK ();
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (vector_mark, "vector-mark", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (20, cons_mark, "cons-mark", 0, 0, 0)
+{
+  POP_CONS_MARK ();
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (21, vector_mark, "vector-mark", 0, 0, 0)
 {
   POP_LIST_MARK ();
+  SYNC_REGISTER ();
   *sp = scm_vector (*sp);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (list_break, "list-break", 0, 0, 0)
+VM_DEFINE_INSTRUCTION (22, list_break, "list-break", 0, 0, 0)
 {
   SCM l;
   POP (l);
-  for (; !SCM_NULLP (l); l = SCM_CDR (l))
-    PUSH (SCM_CAR (l));
+  PUSH_LIST (l, SCM_NULLP);
   NEXT;
 }
 
@@ -210,9 +248,11 @@ VM_DEFINE_INSTRUCTION (list_break, "list-break", 0, 0, 0)
 #define VARIABLE_SET(v,o)      SCM_VARIABLE_SET (v, o)
 #define VARIABLE_BOUNDP(v)      (VARIABLE_REF (v) != SCM_UNDEFINED)
 
+#define FREE_VARIABLE_REF(i)   free_vars[i]
+
 /* ref */
 
-VM_DEFINE_INSTRUCTION (object_ref, "object-ref", 1, 0, 1)
+VM_DEFINE_INSTRUCTION (23, object_ref, "object-ref", 1, 0, 1)
 {
   register unsigned objnum = FETCH ();
   CHECK_OBJECT (objnum);
@@ -220,34 +260,42 @@ VM_DEFINE_INSTRUCTION (object_ref, "object-ref", 1, 0, 1)
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (local_ref, "local-ref", 1, 0, 1)
+/* FIXME: necessary? elt 255 of the vector could be a vector... */
+VM_DEFINE_INSTRUCTION (24, long_object_ref, "long-object-ref", 2, 0, 1)
+{
+  unsigned int objnum = FETCH ();
+  objnum <<= 8;
+  objnum += FETCH ();
+  CHECK_OBJECT (objnum);
+  PUSH (OBJECT_REF (objnum));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (25, local_ref, "local-ref", 1, 0, 1)
 {
   PUSH (LOCAL_REF (FETCH ()));
+  ASSERT_BOUND (*sp);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (external_ref, "external-ref", 1, 0, 1)
+VM_DEFINE_INSTRUCTION (26, long_local_ref, "long-local-ref", 2, 0, 1)
 {
-  unsigned int i;
-  SCM e = external;
-  for (i = FETCH (); i; i--)
-    {
-      CHECK_EXTERNAL(e);
-      e = SCM_CDR (e);
-    }
-  CHECK_EXTERNAL(e);
-  PUSH (SCM_CAR (e));
+  unsigned int i = FETCH ();
+  i <<= 8;
+  i += FETCH ();
+  PUSH (LOCAL_REF (i));
+  ASSERT_BOUND (*sp);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (variable_ref, "variable-ref", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (27, variable_ref, "variable-ref", 0, 0, 1)
 {
   SCM x = *sp;
 
   if (!VARIABLE_BOUNDP (x))
     {
-      err_args = SCM_LIST1 (x);
-      /* Was: err_args = SCM_LIST1 (SCM_CAR (x)); */
+      finish_args = scm_list_1 (x);
+      /* Was: finish_args = SCM_LIST1 (SCM_CAR (x)); */
       goto vm_error_unbound;
     }
   else
@@ -259,96 +307,116 @@ VM_DEFINE_INSTRUCTION (variable_ref, "variable-ref", 0, 0, 1)
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (late_variable_ref, "late-variable-ref", 1, 0, 1)
+VM_DEFINE_INSTRUCTION (28, toplevel_ref, "toplevel-ref", 1, 0, 1)
 {
   unsigned objnum = FETCH ();
-  SCM pair_or_var;
+  SCM what;
   CHECK_OBJECT (objnum);
-  pair_or_var = OBJECT_REF (objnum);
+  what = OBJECT_REF (objnum);
 
-  if (!SCM_VARIABLEP (pair_or_var)) 
+  if (!SCM_VARIABLEP (what)) 
     {
       SYNC_REGISTER ();
-      if (SCM_LIKELY (scm_module_system_booted_p)) 
+      what = resolve_variable (what, scm_program_module (program));
+      if (!VARIABLE_BOUNDP (what))
         {
-          /* either one of these calls might longjmp */
-          SCM mod = scm_resolve_module (SCM_CAR (pair_or_var));
-          pair_or_var = scm_module_lookup (mod, SCM_CDR (pair_or_var));
-        }
-      else
-        {
-          pair_or_var = scm_lookup (SCM_CDR (pair_or_var));
+          finish_args = scm_list_1 (what);
+          goto vm_error_unbound;
         }
-          
-      if (!VARIABLE_BOUNDP (pair_or_var))
+      OBJECT_SET (objnum, what);
+    }
+
+  PUSH (VARIABLE_REF (what));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (29, long_toplevel_ref, "long-toplevel-ref", 2, 0, 1)
+{
+  SCM what;
+  unsigned int objnum = FETCH ();
+  objnum <<= 8;
+  objnum += FETCH ();
+  CHECK_OBJECT (objnum);
+  what = OBJECT_REF (objnum);
+
+  if (!SCM_VARIABLEP (what)) 
+    {
+      SYNC_REGISTER ();
+      what = resolve_variable (what, scm_program_module (program));
+      if (!VARIABLE_BOUNDP (what))
         {
-          err_args = SCM_LIST1 (pair_or_var);
+          finish_args = scm_list_1 (what);
           goto vm_error_unbound;
         }
-
-      OBJECT_SET (objnum, pair_or_var);
+      OBJECT_SET (objnum, what);
     }
 
-  PUSH (VARIABLE_REF (pair_or_var));
+  PUSH (VARIABLE_REF (what));
   NEXT;
 }
 
 /* set */
 
-VM_DEFINE_INSTRUCTION (local_set, "local-set", 1, 1, 0)
+VM_DEFINE_INSTRUCTION (30, local_set, "local-set", 1, 1, 0)
 {
   LOCAL_SET (FETCH (), *sp);
   DROP ();
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (external_set, "external-set", 1, 1, 0)
+VM_DEFINE_INSTRUCTION (31, long_local_set, "long-local-set", 2, 1, 0)
 {
-  unsigned int i;
-  SCM e = external;
-  for (i = FETCH (); i; i--)
-    {
-      CHECK_EXTERNAL(e);
-      e = SCM_CDR (e);
-    }
-  CHECK_EXTERNAL(e);
-  SCM_SETCAR (e, *sp);
+  unsigned int i = FETCH ();
+  i <<= 8;
+  i += FETCH ();
+  LOCAL_SET (i, *sp);
   DROP ();
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (variable_set, "variable-set", 0, 1, 0)
+VM_DEFINE_INSTRUCTION (32, variable_set, "variable-set", 0, 1, 0)
 {
   VARIABLE_SET (sp[0], sp[-1]);
-  sp -= 2;
+  DROPN (2);
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (late_variable_set, "late-variable-set", 1, 1, 0)
+VM_DEFINE_INSTRUCTION (33, toplevel_set, "toplevel-set", 1, 1, 0)
 {
   unsigned objnum = FETCH ();
-  SCM pair_or_var;
+  SCM what;
   CHECK_OBJECT (objnum);
-  pair_or_var = OBJECT_REF (objnum);
+  what = OBJECT_REF (objnum);
 
-  if (!SCM_VARIABLEP (pair_or_var)) 
+  if (!SCM_VARIABLEP (what)) 
     {
       SYNC_BEFORE_GC ();
-      if (SCM_LIKELY (scm_module_system_booted_p)) 
-        {
-          /* either one of these calls might longjmp */
-          SCM mod = scm_resolve_module (SCM_CAR (pair_or_var));
-          pair_or_var = scm_module_lookup (mod, SCM_CDR (pair_or_var));
-        }
-      else
-        {
-          pair_or_var = scm_lookup (SCM_CDR (pair_or_var));
-        }
+      what = resolve_variable (what, scm_program_module (program));
+      OBJECT_SET (objnum, what);
+    }
 
-      OBJECT_SET (objnum, pair_or_var);
+  VARIABLE_SET (what, *sp);
+  DROP ();
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (34, long_toplevel_set, "long-toplevel-set", 2, 1, 0)
+{
+  SCM what;
+  unsigned int objnum = FETCH ();
+  objnum <<= 8;
+  objnum += FETCH ();
+  CHECK_OBJECT (objnum);
+  what = OBJECT_REF (objnum);
+
+  if (!SCM_VARIABLEP (what)) 
+    {
+      SYNC_BEFORE_GC ();
+      what = resolve_variable (what, scm_program_module (program));
+      OBJECT_SET (objnum, what);
     }
 
-  VARIABLE_SET (pair_or_var, *sp);
+  VARIABLE_SET (what, *sp);
   DROP ();
   NEXT;
 }
@@ -358,18 +426,26 @@ VM_DEFINE_INSTRUCTION (late_variable_set, "late-variable-set", 1, 1, 0)
  * branch and jump
  */
 
-#define BR(p)                                  \
+/* offset must be a signed short!!! */
+#define FETCH_OFFSET(offset)                    \
 {                                              \
   int h = FETCH ();                            \
   int l = FETCH ();                            \
-  signed short offset = (h << 8) + l;          \
+  offset = (h << 8) + l;                        \
+}
+
+#define BR(p)                                  \
+{                                              \
+  signed short offset;                          \
+  FETCH_OFFSET (offset);                        \
   if (p)                                       \
     ip += offset;                              \
+  NULLSTACK (1);                               \
   DROP ();                                     \
   NEXT;                                                \
 }
 
-VM_DEFINE_INSTRUCTION (br, "br", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (35, br, "br", 2, 0, 0)
 {
   int h = FETCH ();
   int l = FETCH ();
@@ -377,32 +453,34 @@ VM_DEFINE_INSTRUCTION (br, "br", 2, 0, 0)
   NEXT;
 }
 
-VM_DEFINE_INSTRUCTION (br_if, "br-if", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (36, br_if, "br-if", 2, 0, 0)
 {
   BR (!SCM_FALSEP (*sp));
 }
 
-VM_DEFINE_INSTRUCTION (br_if_not, "br-if-not", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (37, br_if_not, "br-if-not", 2, 0, 0)
 {
   BR (SCM_FALSEP (*sp));
 }
 
-VM_DEFINE_INSTRUCTION (br_if_eq, "br-if-eq", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (38, br_if_eq, "br-if-eq", 2, 0, 0)
 {
-  BR (SCM_EQ_P (sp[0], sp--[1]));
+  sp--; /* underflow? */
+  BR (SCM_EQ_P (sp[0], sp[1]));
 }
 
-VM_DEFINE_INSTRUCTION (br_if_not_eq, "br-if-not-eq", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (39, br_if_not_eq, "br-if-not-eq", 2, 0, 0)
 {
-  BR (!SCM_EQ_P (sp[0], sp--[1]));
+  sp--; /* underflow? */
+  BR (!SCM_EQ_P (sp[0], sp[1]));
 }
 
-VM_DEFINE_INSTRUCTION (br_if_null, "br-if-null", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (40, br_if_null, "br-if-null", 2, 0, 0)
 {
   BR (SCM_NULLP (*sp));
 }
 
-VM_DEFINE_INSTRUCTION (br_if_not_null, "br-if-not-null", 2, 0, 0)
+VM_DEFINE_INSTRUCTION (41, br_if_not_null, "br-if-not-null", 2, 0, 0)
 {
   BR (!SCM_NULLP (*sp));
 }
@@ -412,14 +490,7 @@ VM_DEFINE_INSTRUCTION (br_if_not_null, "br-if-not-null", 2, 0, 0)
  * Subprogram call
  */
 
-VM_DEFINE_INSTRUCTION (make_closure, "make-closure", 0, 1, 1)
-{
-  SYNC_BEFORE_GC ();
-  *sp = scm_c_make_closure (*sp, external);
-  NEXT;
-}
-
-VM_DEFINE_INSTRUCTION (call, "call", 1, -1, 1)
+VM_DEFINE_INSTRUCTION (43, call, "call", 1, -1, 1)
 {
   SCM x;
   nargs = FETCH ();
@@ -427,13 +498,15 @@ VM_DEFINE_INSTRUCTION (call, "call", 1, -1, 1)
  vm_call:
   x = sp[-nargs];
 
+  SYNC_REGISTER ();
+  SCM_TICK;    /* allow interrupt here */
+
   /*
    * Subprogram call
    */
   if (SCM_PROGRAM_P (x))
     {
       program = x;
-    vm_call_program:
       CACHE_PROGRAM ();
       INIT_ARGS ();
       NEW_FRAME ();
@@ -495,11 +568,22 @@ VM_DEFINE_INSTRUCTION (call, "call", 1, -1, 1)
     {
       /* At this point, the stack contains the procedure and each one of its
         arguments.  */
-      SCM args;
       POP_LIST (nargs);
-      POP (args);
       SYNC_REGISTER ();
-      *sp = scm_apply (x, args, SCM_EOL);
+      /* keep args on stack so they are marked */
+      sp[-1] = scm_apply (x, sp[0], SCM_EOL);
+      NULLSTACK_FOR_NONLOCAL_EXIT ();
+      DROP ();
+      if (SCM_UNLIKELY (SCM_VALUESP (*sp)))
+        {
+          /* truncate values */
+          SCM values;
+          POP (values);
+          values = scm_struct_ref (values, SCM_INUM0);
+          if (scm_is_null (values))
+            goto vm_error_not_enough_values;
+          PUSH (SCM_CAR (values));
+        }
       NEXT;
     }
   /*
@@ -508,8 +592,9 @@ VM_DEFINE_INSTRUCTION (call, "call", 1, -1, 1)
   if (SCM_VM_CONT_P (x))
     {
       program = x;
-    vm_call_cc:
+    vm_call_continuation:
       /* Check the number of arguments */
+      /* FIXME multiple args */
       if (nargs != 1)
        scm_wrong_num_args (program);
 
@@ -526,12 +611,14 @@ VM_DEFINE_INSTRUCTION (call, "call", 1, -1, 1)
   goto vm_error_wrong_type_apply;
 }
 
-VM_DEFINE_INSTRUCTION (tail_call, "tail-call", 1, -1, 1)
+VM_DEFINE_INSTRUCTION (44, goto_args, "goto/args", 1, -1, 1)
 {
   register SCM x;
   nargs = FETCH ();
+ vm_goto_args:
   x = sp[-nargs];
 
+  SYNC_REGISTER ();
   SCM_TICK;    /* allow interrupt here */
 
   /*
@@ -549,21 +636,78 @@ VM_DEFINE_INSTRUCTION (tail_call, "tail-call", 1, -1, 1)
 
       /* Drop the first argument and the program itself.  */
       sp -= 2;
+      NULLSTACK (bp->nargs + 1);
+
+      /* Init locals to valid SCM values */
+      for (i = 0; i < bp->nlocs; i++)
+       LOCAL_SET (i + bp->nargs, SCM_UNDEFINED);
 
       /* Call itself */
       ip = bp->base;
       APPLY_HOOK ();
       NEXT;
     }
+
   /*
-   * Proper tail call
+   * Tail call, but not to self -- reuse the frame, keeping the ra and dl
    */
   if (SCM_PROGRAM_P (x))
     {
+      SCM *data, *tail_args, *dl;
+      int i;
+      scm_byte_t *ra, *mvra;
+#ifdef VM_ENABLE_STACK_NULLING
+      SCM *old_sp;
+#endif
+
       EXIT_HOOK ();
-      FREE_FRAME ();
+
+      /* save registers */
+      tail_args = stack_base + 2;
+      ra = SCM_FRAME_RETURN_ADDRESS (fp);
+      mvra = SCM_FRAME_MV_RETURN_ADDRESS (fp);
+      dl = SCM_FRAME_DYNAMIC_LINK (fp);
+
+      /* switch programs */
       program = x;
-      goto vm_call_program;
+      CACHE_PROGRAM ();
+      INIT_ARGS ();
+      /* delay updating the frame so that if INIT_ARGS has to cons up a rest
+         arg, going into GC, the stack still makes sense */
+      fp[-1] = program;
+      nargs = bp->nargs;
+
+#ifdef VM_ENABLE_STACK_NULLING
+      old_sp = sp;
+      CHECK_STACK_LEAK ();
+#endif
+
+      /* new registers -- logically this would be better later, but let's make
+         sure we have space for the locals now */
+      data = SCM_FRAME_DATA_ADDRESS (fp);
+      ip = bp->base;
+      stack_base = data + 2;
+      sp = stack_base;
+      CHECK_OVERFLOW ();
+
+      /* copy args, bottom-up */
+      for (i = 0; i < nargs; i++)
+        fp[i] = tail_args[i];
+
+      NULLSTACK (old_sp - sp);
+
+      /* init locals */
+      for (i = bp->nlocs; i; i--)
+        data[-i] = SCM_UNDEFINED;
+      
+      /* Set frame data */
+      data[2] = (SCM)ra;
+      data[1] = (SCM)mvra;
+      data[0] = (SCM)dl;
+
+      ENTER_HOOK ();
+      APPLY_HOOK ();
+      NEXT;
     }
 #ifdef ENABLE_TRAMPOLINE
   /* This seems to actually slow down the fibo test -- dunno why */
@@ -618,11 +762,21 @@ VM_DEFINE_INSTRUCTION (tail_call, "tail-call", 1, -1, 1)
    */
   if (!SCM_FALSEP (scm_procedure_p (x)))
     {
-      SCM args;
       POP_LIST (nargs);
-      POP (args);
       SYNC_REGISTER ();
-      *sp = scm_apply (x, args, SCM_EOL);
+      sp[-1] = scm_apply (x, sp[0], SCM_EOL);
+      NULLSTACK_FOR_NONLOCAL_EXIT ();
+      DROP ();
+      if (SCM_UNLIKELY (SCM_VALUESP (*sp)))
+        {
+          /* multiple values returned to continuation */
+          SCM values;
+          POP (values);
+          values = scm_struct_ref (values, SCM_INUM0);
+          nvalues = scm_ilength (values);
+          PUSH_LIST (values, SCM_NULLP);
+          goto vm_return_values;
+        }
       goto vm_return;
     }
 
@@ -632,56 +786,443 @@ VM_DEFINE_INSTRUCTION (tail_call, "tail-call", 1, -1, 1)
    * Continuation call
    */
   if (SCM_VM_CONT_P (program))
-    goto vm_call_cc;
+    goto vm_call_continuation;
+
+  goto vm_error_wrong_type_apply;
+}
+
+VM_DEFINE_INSTRUCTION (45, goto_nargs, "goto/nargs", 0, 0, 1)
+{
+  SCM x;
+  POP (x);
+  nargs = scm_to_int (x);
+  /* FIXME: should truncate values? */
+  goto vm_goto_args;
+}
+
+VM_DEFINE_INSTRUCTION (46, call_nargs, "call/nargs", 0, 0, 1)
+{
+  SCM x;
+  POP (x);
+  nargs = scm_to_int (x);
+  /* FIXME: should truncate values? */
+  goto vm_call;
+}
+
+VM_DEFINE_INSTRUCTION (47, mv_call, "mv-call", 3, -1, 1)
+{
+  SCM x;
+  signed short offset;
+  
+  nargs = FETCH ();
+  FETCH_OFFSET (offset);
+
+  x = sp[-nargs];
+
+  /*
+   * Subprogram call
+   */
+  if (SCM_PROGRAM_P (x))
+    {
+      program = x;
+      CACHE_PROGRAM ();
+      INIT_ARGS ();
+      NEW_FRAME ();
+      SCM_FRAME_DATA_ADDRESS (fp)[1] = (SCM)(SCM_FRAME_RETURN_ADDRESS (fp) + offset);
+      ENTER_HOOK ();
+      APPLY_HOOK ();
+      NEXT;
+    }
+  /*
+   * Other interpreted or compiled call
+   */
+  if (!SCM_FALSEP (scm_procedure_p (x)))
+    {
+      /* At this point, the stack contains the procedure and each one of its
+        arguments.  */
+      POP_LIST (nargs);
+      SYNC_REGISTER ();
+      sp[-1] = scm_apply (x, sp[0], SCM_EOL);
+      NULLSTACK_FOR_NONLOCAL_EXIT ();
+      DROP ();
+      if (SCM_VALUESP (*sp))
+        {
+          SCM values, len;
+          POP (values);
+          values = scm_struct_ref (values, SCM_INUM0);
+          len = scm_length (values);
+          PUSH_LIST (values, SCM_NULLP);
+          PUSH (len);
+          ip += offset;
+        }
+      NEXT;
+    }
+  /*
+   * Continuation call
+   */
+  if (SCM_VM_CONT_P (x))
+    {
+      program = x;
+      goto vm_call_continuation;
+    }
 
+  program = x;
   goto vm_error_wrong_type_apply;
 }
 
-VM_DEFINE_INSTRUCTION (apply, "apply", 1, -1, 1)
+VM_DEFINE_INSTRUCTION (48, apply, "apply", 1, -1, 1)
 {
   int len;
   SCM ls;
   POP (ls);
 
   nargs = FETCH ();
-  if (nargs < 2)
-    goto vm_error_wrong_num_args;
+  ASSERT (nargs >= 2);
 
   len = scm_ilength (ls);
   if (len < 0)
     goto vm_error_wrong_type_arg;
 
-  for (; !SCM_NULLP (ls); ls = SCM_CDR (ls))
-    PUSH (SCM_CAR (ls));
+  PUSH_LIST (ls, SCM_NULL_OR_NIL_P);
 
   nargs += len - 2;
   goto vm_call;
 }
 
-VM_DEFINE_INSTRUCTION (call_cc, "call/cc", 1, 1, 1)
+VM_DEFINE_INSTRUCTION (49, goto_apply, "goto/apply", 1, -1, 1)
 {
-  SYNC_BEFORE_GC ();
-  PUSH (capture_vm_cont (vp));
-  POP (program);
-  nargs = 1;
-  goto vm_call;
+  int len;
+  SCM ls;
+  POP (ls);
+
+  nargs = FETCH ();
+  ASSERT (nargs >= 2);
+
+  len = scm_ilength (ls);
+  if (len < 0)
+    goto vm_error_wrong_type_arg;
+
+  PUSH_LIST (ls, SCM_NULL_OR_NIL_P);
+
+  nargs += len - 2;
+  goto vm_goto_args;
 }
 
-VM_DEFINE_INSTRUCTION (return, "return", 0, 0, 1)
+VM_DEFINE_INSTRUCTION (50, call_cc, "call/cc", 0, 1, 1)
+{
+  int first;
+  SCM proc, cont;
+  POP (proc);
+  SYNC_ALL ();
+  cont = scm_make_continuation (&first);
+  if (first) 
+    {
+      PUSH (proc);
+      PUSH (cont);
+      nargs = 1;
+      goto vm_call;
+    }
+  ASSERT (sp == vp->sp);
+  ASSERT (fp == vp->fp);
+  else if (SCM_VALUESP (cont))
+    {
+      /* multiple values returned to continuation */
+      SCM values;
+      values = scm_struct_ref (cont, SCM_INUM0);
+      if (SCM_NULLP (values))
+        goto vm_error_no_values;
+      /* non-tail context does not accept multiple values? */
+      PUSH (SCM_CAR (values));
+      NEXT;
+    }
+  else
+    {
+      PUSH (cont);
+      NEXT;
+    }
+}
+
+VM_DEFINE_INSTRUCTION (51, goto_cc, "goto/cc", 0, 1, 1)
+{
+  int first;
+  SCM proc, cont;
+  POP (proc);
+  SYNC_ALL ();
+  cont = scm_make_continuation (&first);
+  ASSERT (sp == vp->sp);
+  ASSERT (fp == vp->fp);
+  if (first) 
+    {
+      PUSH (proc);
+      PUSH (cont);
+      nargs = 1;
+      goto vm_goto_args;
+    }
+  else if (SCM_VALUESP (cont))
+    {
+      /* multiple values returned to continuation */
+      SCM values;
+      values = scm_struct_ref (cont, SCM_INUM0);
+      nvalues = scm_ilength (values);
+      PUSH_LIST (values, SCM_NULLP);
+      goto vm_return_values;
+    }
+  else
+    {
+      PUSH (cont);
+      goto vm_return;
+    }
+}
+
+VM_DEFINE_INSTRUCTION (52, return, "return", 0, 1, 1)
 {
  vm_return:
   EXIT_HOOK ();
   RETURN_HOOK ();
-  FREE_FRAME ();
+  SYNC_REGISTER ();
+  SCM_TICK;    /* allow interrupt here */
+  {
+    SCM ret, *data;
+    data = SCM_FRAME_DATA_ADDRESS (fp);
+
+    POP (ret);
+    ASSERT (sp == stack_base);
+    ASSERT (stack_base == data + 2);
+
+    /* Restore registers */
+    sp = SCM_FRAME_LOWER_ADDRESS (fp);
+    ip = SCM_FRAME_BYTE_CAST (data[2]);
+    fp = SCM_FRAME_STACK_CAST (data[0]);
+    {
+#ifdef VM_ENABLE_STACK_NULLING
+      int nullcount = stack_base - sp;
+#endif
+      stack_base = SCM_FRAME_UPPER_ADDRESS (fp) - 1;
+      NULLSTACK (nullcount);
+    }
+
+    /* Set return value (sp is already pushed) */
+    *sp = ret;
+  }
 
   /* Restore the last program */
   program = SCM_FRAME_PROGRAM (fp);
   CACHE_PROGRAM ();
-  CACHE_EXTERNAL ();
   CHECK_IP ();
   NEXT;
 }
 
+VM_DEFINE_INSTRUCTION (53, return_values, "return/values", 1, -1, -1)
+{
+  /* nvalues declared at top level, because for some reason gcc seems to think
+     that perhaps it might be used without declaration. Fooey to that, I say. */
+  SCM *data;
+
+  nvalues = FETCH ();
+ vm_return_values:
+  EXIT_HOOK ();
+  RETURN_HOOK ();
+
+  data = SCM_FRAME_DATA_ADDRESS (fp);
+  ASSERT (stack_base == data + 2);
+
+  /* data[1] is the mv return address */
+  if (nvalues != 1 && data[1]) 
+    {
+      int i;
+      /* Restore registers */
+      sp = SCM_FRAME_LOWER_ADDRESS (fp) - 1;
+      ip = SCM_FRAME_BYTE_CAST (data[1]); /* multiple value ra */
+      fp = SCM_FRAME_STACK_CAST (data[0]);
+        
+      /* Push return values, and the number of values */
+      for (i = 0; i < nvalues; i++)
+        *++sp = stack_base[1+i];
+      *++sp = SCM_I_MAKINUM (nvalues);
+             
+      /* Finally set new stack_base */
+      NULLSTACK (stack_base - sp + nvalues + 1);
+      stack_base = SCM_FRAME_UPPER_ADDRESS (fp) - 1;
+    }
+  else if (nvalues >= 1)
+    {
+      /* Multiple values for a single-valued continuation -- here's where I
+         break with guile tradition and try and do something sensible. (Also,
+         this block handles the single-valued return to an mv
+         continuation.) */
+      /* Restore registers */
+      sp = SCM_FRAME_LOWER_ADDRESS (fp) - 1;
+      ip = SCM_FRAME_BYTE_CAST (data[2]); /* single value ra */
+      fp = SCM_FRAME_STACK_CAST (data[0]);
+        
+      /* Push first value */
+      *++sp = stack_base[1];
+             
+      /* Finally set new stack_base */
+      NULLSTACK (stack_base - sp + nvalues + 1);
+      stack_base = SCM_FRAME_UPPER_ADDRESS (fp) - 1;
+    }
+  else
+    goto vm_error_no_values;
+
+  /* Restore the last program */
+  program = SCM_FRAME_PROGRAM (fp);
+  CACHE_PROGRAM ();
+  CHECK_IP ();
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (54, return_values_star, "return/values*", 1, -1, -1)
+{
+  SCM l;
+
+  nvalues = FETCH ();
+  ASSERT (nvalues >= 1);
+    
+  nvalues--;
+  POP (l);
+  while (SCM_CONSP (l))
+    {
+      PUSH (SCM_CAR (l));
+      l = SCM_CDR (l);
+      nvalues++;
+    }
+  if (SCM_UNLIKELY (!SCM_NULL_OR_NIL_P (l))) {
+    finish_args = scm_list_1 (l);
+    goto vm_error_improper_list;
+  }
+
+  goto vm_return_values;
+}
+
+VM_DEFINE_INSTRUCTION (55, truncate_values, "truncate-values", 2, -1, -1)
+{
+  SCM x;
+  int nbinds, rest;
+  POP (x);
+  nvalues = scm_to_int (x);
+  nbinds = FETCH ();
+  rest = FETCH ();
+
+  if (rest)
+    nbinds--;
+
+  if (nvalues < nbinds)
+    goto vm_error_not_enough_values;
+
+  if (rest)
+    POP_LIST (nvalues - nbinds);
+  else
+    DROPN (nvalues - nbinds);
+
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (56, box, "box", 1, 1, 0)
+{
+  SCM val;
+  POP (val);
+  SYNC_BEFORE_GC ();
+  LOCAL_SET (FETCH (), scm_cell (scm_tc7_variable, SCM_UNPACK (val)));
+  NEXT;
+}
+
+/* for letrec:
+   (let ((a *undef*) (b *undef*) ...)
+     (set! a (lambda () (b ...)))
+     ...)
+ */
+VM_DEFINE_INSTRUCTION (57, empty_box, "empty-box", 1, 0, 0)
+{
+  SYNC_BEFORE_GC ();
+  LOCAL_SET (FETCH (),
+             scm_cell (scm_tc7_variable, SCM_UNPACK (SCM_UNDEFINED)));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (58, local_boxed_ref, "local-boxed-ref", 1, 0, 1)
+{
+  SCM v = LOCAL_REF (FETCH ());
+  ASSERT_BOUND_VARIABLE (v);
+  PUSH (VARIABLE_REF (v));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (59, local_boxed_set, "local-boxed-set", 1, 1, 0)
+{
+  SCM v, val;
+  v = LOCAL_REF (FETCH ());
+  POP (val);
+  ASSERT_VARIABLE (v);
+  VARIABLE_SET (v, val);
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (60, free_ref, "free-ref", 1, 0, 1)
+{
+  scm_t_uint8 idx = FETCH ();
+  
+  CHECK_FREE_VARIABLE (idx);
+  PUSH (FREE_VARIABLE_REF (idx));
+  NEXT;
+}
+
+/* no free-set -- if a var is assigned, it should be in a box */
+
+VM_DEFINE_INSTRUCTION (61, free_boxed_ref, "free-boxed-ref", 1, 0, 1)
+{
+  SCM v;
+  scm_t_uint8 idx = FETCH ();
+  CHECK_FREE_VARIABLE (idx);
+  v = FREE_VARIABLE_REF (idx);
+  ASSERT_BOUND_VARIABLE (v);
+  PUSH (VARIABLE_REF (v));
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (62, free_boxed_set, "free-boxed-set", 1, 1, 0)
+{
+  SCM v, val;
+  scm_t_uint8 idx = FETCH ();
+  POP (val);
+  CHECK_FREE_VARIABLE (idx);
+  v = FREE_VARIABLE_REF (idx);
+  ASSERT_BOUND_VARIABLE (v);
+  VARIABLE_SET (v, val);
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (63, make_closure, "make-closure", 0, 2, 1)
+{
+  SCM vect;
+  POP (vect);
+  SYNC_BEFORE_GC ();
+  /* fixme underflow */
+  SCM_NEWSMOB3 (*sp, scm_tc16_program, SCM_PROGRAM_OBJCODE (*sp),
+                SCM_PROGRAM_OBJTABLE (*sp), vect);
+  NEXT;
+}
+
+VM_DEFINE_INSTRUCTION (64, make_variable, "make-variable", 0, 0, 1)
+{
+  SYNC_BEFORE_GC ();
+  /* fixme underflow */
+  PUSH (scm_cell (scm_tc7_variable, SCM_UNPACK (SCM_UNDEFINED)));
+  NEXT;
+}
+
+
+/*
+(defun renumber-ops ()
+  "start from top of buffer and renumber 'VM_DEFINE_FOO (\n' sequences"
+  (interactive "")
+  (save-excursion
+    (let ((counter -1)) (goto-char (point-min))
+      (while (re-search-forward "^VM_DEFINE_[^ ]+ (\\([^,]+\\)," (point-max) t)
+        (replace-match
+         (number-to-string (setq counter (1+ counter)))
+          t t nil 1)))))
+*/
 /*
   Local Variables:
   c-file-style: "gnu"